Über den gescheiterten OpenAI-Board-Coup von Sam Altman und die Gefahr, das KI-Schicksal in den Händen einiger weniger zu lassen

Mehr als 500 HackerNoon-Menschen stimmten gestern bei unserer Umfrage ab und fragten, was bei der unvorhersehbaren Achterbahnfahrt passieren würde, die man nur als einen episch gescheiterten Putschversuch des (inzwischen nicht mehr existierenden) OpenAI-Vorstands bezeichnen kann , und wählten mit überwältigender Mehrheit die Option, die Sam Altman letztendlich tun würde Rückkehr als CEO zu OpenAI.

Und HackerNoon-Leser haben Recht! Die letzten und letzten Verhandlungen von OpenAI-Mitarbeitern, um „Sam zurückzubringen, oder wir geben auf“ und „Sam zurückzubringen, oder wir ziehen uns zurück“ durch OpenAI-Investoren, größtenteils angeführt von Microsoft-CEO Satya Nadella, und den Schwergewichten des Silicone Valley (I (wir werden sie später in diesem Artikel besprechen) fanden schließlich ihr „Happy End“. Der Putsch scheiterte. Sam und Greg würden nun bei ihrer triumphalen Rückkehr von 95 % von OpenAI (778+ von 770 Mitarbeitern haben laut Bloomberg den Brief unterschrieben), einem brandneuen Vorstand und mehr Ruhm und Macht als je zuvor begrüßt!

Der entscheidende Beweis ist immer noch nicht herausgekommen (und es ist unklar, ob es jemals geklärt wird), ich bin immer noch einigermaßen zuversichtlich, dass in den nächsten Monaten oder Jahren weitere Forschungsarbeiten, Klagen und sogar Richtlinienänderungen veröffentlicht werden. um Licht ins Dunkel zu bringen, was passiert ist. Und das ist noch nicht das Ende der Turbulenzen bei OpenAI.

Aber zuerst eine kurze Zusammenfassung

Um zu 100 % über dieses Drama informiert zu sein, sollten Sie meine Geschichte vom Freitag lesen, in der die Einzelheiten der Entlassungen von Sam Altman angekündigt und darüber spekuliert wurden , und die Geschichte vom Montag, in der eine chronologische Zeitleiste der Ereignisse des Wochenendes dargelegt wurde . Als wir aufhörten, waren Sam und Greg immer noch auf dem Weg nach draußen und zu Microsoft, um einfach ein weiterer Unternehmensnormaler zu sein (lol). Ein neuer Interims-CEO wurde bekannt gegeben (anstelle der bereits Interims-CEO Mira Murati, die sich als Sam-Loyalistin herausstellte): Emmett Shear, vor allem als Ex-CEO von Twitch bekannt. Ja, Twitch. Die Game-Streaming-Plattform. Nichts mit KI zu tun.

Satya Nadella, CEO von Microsoft, war in all seinen öffentlichen Auftritten und Ankündigungen zwar sehr positiv und optimistisch, wies jedoch nachdrücklich darauf hin, dass auf der Ebene der Corporate Governance unbedingt Änderungen vorgenommen werden müssen und es für Microsoft, einen Anteilseigner von 49 %, keine Überraschungen mehr geben dürfte. und der wichtigste institutionelle Partner von OpenAI. Ich habe das so gelesen: Der Vorstand muss entlassen werden und Microsoft wird mit dem neuen Vorstand auf keinen Fall jemals wieder in diese Situation geraten.

Und dann, gegen Mitternacht am Dienstag, den 21. November, am frühen Morgen am Mittwoch, den 22. November, verkündete Open AI, wissen Sie schon, die Neuigkeiten, auf die Sam & Co und die meisten Optimisten des Silicone Valley gewartet haben:

SAM 👏 IST 👏 ZURÜCK 👏

In derselben Ankündigung wurde erwähnt, dass der neue Vorstand von OpenAI aus Bret Taylor (Vorsitzender), Adam D'eangelo und Larry Summer bestehen wird. Insbesondere werden Sam Altman, Ilya Sutskever, Tasha McCauley und Helen Toner nicht erwähnt.

Die Diskrepanz zwischen gemeinnützigen und gewinnorientierten Organisationen : Der Fluch der Existenz von OpenAI

Ich denke, die plausibelste Theorie, warum der Putsch stattfinden durfte, ist die folgende: Der (inzwischen nicht mehr existierende) Vorstand von OpenAI, einer gemeinnützigen Organisation, die die gewinnorientierte LLC (siehe Abbildung) kontrolliert, soll keinerlei Anreiz dazu haben Gewinn maximieren, das ist der Hauptzweck von OpenAI, dem Hersteller von Chatgpt, der 13 Milliarden von Microsoft eingesammelt hat und die treuhänderische Pflicht hatte, Geld für seine Investoren zu verdienen. Alle stimmberechtigten Vorstandsmitglieder, einschließlich Altman selbst, halten keine Aktien von OpenAI. Ihre Mission besteht, wie es in der Unternehmenssatzung heißt, darin, „sicherzustellen, dass künstliche allgemeine Intelligenz – KI-Systeme, die im Allgemeinen intelligenter sind als Menschen – der gesamten Menschheit zugute kommt“. Mit anderen Worten: Der gemeinnützige Vorstand, der die Forprofit LLC beaufsichtigt, hat überhaupt kein Interesse daran, Geld für die Investoren zurückzubekommen, weder über die Rechenkapazitäten von Microsoft (die unbedingt erforderlich sind, um die Art von Forschung durchzuführen, die für die Einführung von AGI erforderlich ist), noch an der Tatsache, dass dies der Fall ist dass OpenAI seit der Veröffentlichung von ChatGPT seit Jahrzehnten de facto zum zeitgeistigen Technologieunternehmen geworden ist. Das Einzige, woran es interessiert war und zu dessen Überwachung es gesetzlich verpflichtet war, war die sichere Einführung der Künstlichen Allgemeinen Intelligenz (AGI). Theoretisch war es vollkommen glücklich, kein Geld mehr zu verdienen, zu schrumpfen und zu einer kleinen Elite-Forschungsgruppe zurückzukehren.

Ich hielt diese Theorie für die plausibelste, weil (wie in meiner letzten Geschichte erwähnt) die Tatsache, dass ich lya Sutskever , OpenAI-Mitbegründer und Chefwissenschaftler, Teil der ursprünglichen Vorstandsfraktion war, die Sam überhaupt verdrängt hatte. (Später bereute er seine Entscheidung und vollzog eine Kehrtwende, die mit Sicherheit alle überraschte.) Er ist ein brillanter Geist, und es wird allgemein angenommen, dass er das Gehirn der Operation ist. Tatsächlich wurde er von Elon Musk selbst (von Google Deepmind) für OpenAI umworben, was laut Musk zu einem offensichtlichen Bruch in der langjährigen Freundschaft zwischen Elon Musk und Google-CEO Larry Page führte. Der Bruch lag damals (im Jahr 2015/2016) im Bereich der KI-Sicherheit. Ilya war die KI-Sicherheit wichtig, Elon auch, Larry hingegen nicht. So wurde Ilya zum OpenAI-Team.

Ein weiterer Grund, warum ich dachte, dass dies eine grundsätzliche Meinungsverschiedenheit/Fehlausrichtung in Bezug auf KI-Sicherheit ist, ist die Tatsache, dass Helen Toner, eines der drei Vorstandsmitglieder, die für die Absetzung von Sam gestimmt haben, kürzlich einen Forschungsbericht verfasst hat , der (wie von der New York Times berichtet) war für den direkten Konkurrenten von OpenAI, Anthropic, und kritisierte den Ansatz von OpenAI, AGI einzuführen. Anthropic wurde wohlgemerkt genau wegen dieser KI-Sicherheitsspannung entwickelt. Die Gründer sind Dario Amodei, ehemaliger Vizepräsident für Forschung bei OpenAI, und seine Schwester Daniela Amodei, Vizepräsidentin für Sicherheit und Politik bei OpenAI. Mehrere andere OpenAI-Forschungsabsolventen waren ebenfalls im Gründungsteam von Anthropic. Noch merkwürdiger ist, dass Anthropic-CEO Dario Berichten zufolge vom alten Vorstand wegen einer möglichen Fusion mit OpenAI (lol, dem Unternehmen, von dem es ursprünglich ausgegangen ist) abgeworben wurde und abgelehnt hat.

Und schließlich hat Elon Musk, der ursprüngliche Gründer und Investor von OpenAI selbst, erst gestern, nur wenige Stunden bevor die Nachricht von Sams und Gregs triumphaler Rückkehr bekannt wurde, auf seiner eigenen Plattform X einen Brief von „besorgten“ ehemaligen Mitarbeitern von OpenAI geteilt , neben vielen anderen Dingen, ein beunruhigendes Verhaltensmuster von Sam Altman und Co., nicht auf die Sicherheitsforscher zu hören. Den vollständigen Brief finden Sie hier . Mit anderen Worten: Die meisten Leute, die im Laufe der Jahre große Meinungsverschiedenheiten mit Sam bezüglich der KI-Sicherheit hatten, sind gegangen. Was von OpenAI übrig geblieben ist, sind größtenteils Sams Loyalisten.

Lernen Sie den neuen Vorstand von OpenAI kennen

Bei den Verhandlungen über die Rückkehr von Sam Altman als CEO stimmte der (alte) Vorstand zu, diese drei ersten Personen in den Vorstand aufzunehmen. Also, lasst uns sie treffen.

Bret Taylor

Bret Taylor ist einer der am besten vernetzten und angesehensten Technologen im Silicon Valley. Er ist vor allem als ehemaliger CEO von Salesforce bekannt, dem führenden Unternehmen für cloudbasierte Softwaredienste. Aber noch bemerkenswerter ist, dass Taylor eine entscheidende Rolle als Vorsitzender des (ehemaligen) Twitter-Vorstands spielte, wo er maßgeblich dazu beitrug, die Übernahme von Twitter durch Elon Musk zu erzwingen, nachdem der Milliardär aus dem Unternehmen ausgestiegen war des 44-Milliarden-Dollar-Deals (siehe hier , hier und hier ).

Larry Sommer

Lawrence „Larry“ Summers ist ein amerikanischer Ökonom, ehemaliger Vizepräsident für Entwicklungsökonomie und Chefökonom der Weltbank sowie ehemaliger US-Finanzminister. Er ist vor allem als 27. Präsident der Harvard University bekannt. Während seiner Amtszeit in Harvard löste Summers mit seinen Äußerungen über Frauen in der Wissenschaft Kontroversen aus, indem er darauf hinwies, dass intrinsische Unterschiede in der Begabung zwischen Männern und Frauen ein Grund für die Unterrepräsentation von Frauen in Naturwissenschaften und Technik sein könnten. Diese Äußerungen führten zu weit verbreiteter Kritik und spielten eine wichtige Rolle bei seinem schließlichen Rücktritt von der Präsidentschaft der Harvard-Universität. Stelle dir das vor.

Adam D'Angelo

Adam D'Angelo, der CEO von Quora, einer beliebten Frage-und-Antwort-Website. Vor Quora war er Chief Technology Officer bei Facebook und könnte neben Mark Zuckerberg auch einer der vielen Mitbegründer von Facebook gewesen sein. Vor allem ist er das einzige ständige Mitglied des OpenAI-Vorstands, das noch in diesem neuen Vorstand tätig sein wird. Ja, der Vorstand, der Sam überhaupt verdrängt hat.

Hmmm, ein hervorragender Geschäftsabschlüsse ( der einzige Erwachsene im Raum, der Elon dazu bringen konnte, sich an seinen rechtsverbindlichen Vertrag zum Kauf von Twitter zu halten ), ein einflussreicher, wenn auch umstrittener Wirtschaftswissenschaftler (Larrys sexistische Kommentare über die Intellektualität von Frauen hätten für den gestürzten Vorstand nichts Gutes verheißen). Mitglieder, beide Frauen!), und ein mysteriöser CEO, der selten Interviews gab (niemand weiß, warum Adam (angeblich) Sam verdrängte, bis heute) … das sind die Leute, die derzeit das Schicksal der wohl einflussreichsten Personen kontrollieren Technologie unserer Zeit.

Abschließende Gedanken (hoffentlich vorerst das letzte Mal zu dieser Saga)

KI könnte die wichtigste Technologie dieses Jahrzehnts und der kommenden Jahrzehnte sein. Aber die Geschichte, die sich am vergangenen Wochenende abspielte, zeigt uns nur, wie unglaublich fehlerhaft die Menschen sind, denen die Kontrolle über das Land droht. Versierte Technik + fehlerhafte Menschen = ziemlich katastrophale Kombination, meiner Meinung nach. Ganz gleich, wie fehlerhaft, irrational und scheinbar verrückt der inzwischen aufgelöste OpenAi-Vorstand in seiner Entscheidung, Sam zu feuern, erscheint, es gibt immer noch einen großen, riesigen, riesigen Elefanten im Raum, der das Ereignis ist, das die erste Entscheidung auslöste Ort.

Es wurde berichtet, dass Sam einer gründlichen Untersuchung nach seiner Rückkehr grundsätzlich zugestimmt habe. Und bis dahin werde ich bestenfalls skeptisch bleiben, ob dieses neue Gremium in der Lage ist, gleichzeitig die hohe Mission von OpenAI, die Menschheit vor den superintelligenten Robotern zu retten (umschrieben), aufrechtzuerhalten und gleichzeitig viel Geld zu verdienen. Scheint ein Paradoxon zu sein, genau wie der Kapitalismus, der effektive Altruismus und die Menschen.