von Sam Altmans erzwungener Verdrängung durch das OpenAI-Board wurde am Wochenende noch seltsamer und seltsamer. Wenn Sie nicht in der Technikbranche tätig sind, beneide ich Sie. Ihre Technikfreunde haben gerade drei Staffeln von Succession angeschaut und sind in einem Cliffhanger zurückgeblieben! Aber wie auch immer, hier ist die Abfolge der Ereignisse seit Sams erzwungenem Rauswurf am Freitag 12:59 Uhr Montag, 20. November 2023: Die absolut bizarre Geschichte : Greg Brockman, COO/Vorstandsvorsitzender/Mitbegründer von OpenAI, aus Solidarität mit Sam. Er erwähnte, dass er von den Nachrichten nur wenige Minuten vor ihrer Veröffentlichung wusste. Am späten Freitag, 17. November kündigt : Mehrere hochrangige Talente bei openAI haben gekündigt. Es stellte sich heraus, dass Greg und Sam ziemlich beliebte Anführer sind. Dann gab es eine koordinierte Aktion vieler OpenAI-Mitarbeiter, um der Öffentlichkeit zu signalisieren, dass sie alle aufhören würden, wenn Greg und Sam nicht zurück wären, indem sie Sams Tweet „Ich liebe das OpenAI-Team so sehr“ mit einem Herz-Emoji zitierten. Insbesondere die künftige Interims-CEO Mira Murati war Teil dieser Bemühungen. Samstag, 18. November : Sam kehrte ins OpenAI-Büro zurück, um mit Board über seine (und Gregs) mögliche Rückkehr zu verhandeln. Bedingung wäre gewesen, einen neuen Vorstand zu finden und alle derzeitigen Vorstandsmitglieder zurückzutreten. Satya Nadella, CEO von Microsoft, leitete die Verhandlungen zwischen Sam und dem Vorstand. Eine Frist von 17 Uhr wurde festgelegt und versäumt. Am späten Samstag, 18. November : Sam ist erneut ins Büro zurückgekehrt, um mit dem Vorstand über seine (und Gregs) mögliche Rückkehr zu verhandeln. Sam erwähnte, dass es dieses Mal sein letztes sein würde. Eine weitere Frist von 17 Uhr wurde festgelegt und versäumt. Sonntag, 19. November Murmeltiertag, Montag, 20. November: Ein Brief mit der Aufschrift „Bringt Sam zurück, oder wir geben auf“ wurde durchgesickert. Von über 770 Mitarbeitern haben 667 (und es werden noch mehr) den Brief unterzeichnet, Stand Montag, 10 Uhr MT. Bemerkenswerterweise wurde das Wort bei dem Wort „Iliya Sutskever“ unterbrochen, dem Chief Scientist Officer, einem von sechs Vorstandsmitgliedern, dessen Stimme maßgeblich zur Absetzung von Sam beigetragen hat. : Der ehemalige CEO von Twich, Emmett Shear, hat das Stellenangebot als CEO von OpenAI angenommen! Sonntag, 19. November, Mitternacht / Montag, 20. November : Satya Nadella gab bekannt, dass Sam und Greg MICROSOFT beitreten würden. Weitere Infos . OK Montag, 20. November hier ….Und mit Montag haben wir schon die Hälfte geschafft. „Abschließende“ Gedanken, auch bekannt als WTF? Ich bin mir sicher, dass sich die Geschichte weiterentwickeln wird, daher steht das „Abschluss“ in Anführungszeichen. Aber hier sind einige meiner Gedanken zu dieser absolut verrückten Geschichte. Und dieses Mal möchte ich Sie, die Leser, bitten, einige davon zu beantworten bzw. Licht ins Dunkel zu bringen. : Entschuldigen Sie meine Sprache, aber wer zum Teufel ist auf diese unnötig komplizierte und bizarre Idee gekommen? Und was noch wichtiger ist: Warum? . Ersteren geht es überhaupt nicht um den Profit, während letzterer davon getrieben wird. Das OpenAI-Board besteht buchstäblich aus niemandem, der tatsächlich an dem Spiel beteiligt ist. Keiner von ihnen hält OpenAI-Aktien. Tatsächlich hat der CEO von Quora einen Interessenkonflikt in Form seines eigenen ! Microsoft, das 49 % der OpenAI-Aktien besitzt, hat keinen Sitz im Vorstand. Stelle dir das vor. Der gemeinnützige Vorstand kontrolliert ein gewinnorientiertes Unternehmen Der Anreiz eines gemeinnützigen Vorstands steht in starkem Widerspruch zum Anreiz eines gewinnorientierten Vorstands alternativen KI-Modells namens Poe . Ich habe die OpenAI-Geschichte ganz gut verfolgt (sie war verrückt, verrückt, ein Fehler im Universum usw., aber sie ergab einen Sinn … bis er sich entschuldigte). Es gibt 6 Vorstandsmitglieder von OpenAI: CEO/Gründer Sam Altman, COO/Mitbegründer Greg Brockman, CSO Ilya Suskever, Quora-CEO Adam D'Angelo, Tech-Unternehmerin Tasha McCauley und Georgia Tech Director of Grants Helen Toner. Um den CEO zu verdrängen, bedarf es einer Mehrheit, d. h. 4 Stimmen. Wir wissen, dass Sam und Greg auf derselben Seite stehen. Damit bleibt Ilya Suskever die maßgebliche Stimme, die Sams Absetzung erzwingt. Manche Leute nennen es sogar einen Coup zwischen dem KI-Beschleuniger und dem KI-Sicherheitsexperten. Und jetzt entschuldigt sich Ilya? Und dem Vorstand zu sagen, dass er ... zurücktreten würde? Wenn er in ihrem Prozess der „absichtlichen Überprüfung“ etwas so Grausames gesehen hat, das zeigt, dass Sam gegenüber dem Vorstand nicht „aufrichtig“ ist und dem Vorstand das „Vertrauen“ in Sams Fähigkeit, das Unternehmen zu leiten, fehlt ... WAS IST DAS? Und warum ist es jetzt nicht wichtig? Wie, wtf? Die absolute Bizarrheit, die Ilja Suzkewers Kehrtwende ausmacht Ich weiß nicht viel über Ilyas Motivation oder was er weiß, was wir nicht wissen, aber angesichts denke ich, dass seine Wahl eine Halluzination gewesen sein könnte, die durch verstärkendes Lernen aus menschlichem Feedback korrigiert wurde : dessen, was Lya Sutskever in einem Interview mit HackerNoon im März dieses Jahres sagte, ” „Wir nennen es Reinforcement Learning from Human Feedback. Wir können sagen, dass Sie im Vorbereitungsprozess alles über die Welt lernen möchten. Beim verstärkenden Lernen aus menschlichem Feedback kümmern wir uns um die Ergebnisse. Wir sagen: Wenn die Ausgabe unangemessen ist, tun Sie dies nicht noch einmal. Machen Sie das nicht noch einmal, wenn die Ausgabe keinen Sinn ergibt. Und es lernt schnell, gute Ausgaben zu produzieren. Aber es ist das Niveau der Ausgaben, was während des Vortrainingsprozesses des Sprachmodells nicht der Fall ist. Was nun die Halluzinationen betrifft: Es neigt dazu, von Zeit zu Zeit Dinge zu erfinden, und das schränkt auch ihren Nutzen stark ein. Aber ich bin sehr zuversichtlich, dass wir durch die einfache Verbesserung dieses nachfolgenden Verstärkungslernens aus menschlichem Feedback Schritt werden können kann ihm beibringen, nicht zu halluzinieren. Nun könnte man sagen: Wird es wirklich lernen? Meine Antwort ist: Finden wir es heraus. Microsoft brach um 1 % ein, nachdem am Freitag vor Börsenschluss die Nachricht über Sams Rauswurf bekannt wurde. Als CEO hat Satya Nadella die treuhänderische Pflicht gegenüber seinen Aktionären (im Gegensatz zum OpenAI-Vorstand, ich weiß nicht), er war maßgeblich an all diesen Hin- und Her-Verhandlungen zwischen den Ideologen und den Betreibern von OpenAI beteiligt. Alles, was ich im Moment sagen kann, ist, dass es ganz sicher so aussieht, als hätte Microsoft OpenAI (Sam, Greg und scheinbar 80 % eines Unternehmens, das kürzlich mit 80 Milliarden US-Dollar bewertet wurde) buchstäblich für 10 Milliarden US-Dollar übernommen. Was für ein Schachzug. Ist am Ende Microsoft der Gewinner? Niemand weiß. Buchstäblich. Sie alle haben äußerst gemischte Signale an die Öffentlichkeit gesendet. In einem Atemzug droht er dem Vorstand, zurückzutreten und mit Sam zu gehen, und im gleichen Atemzug sagt er, dass man „einiger“ sei als je zuvor. Offenbar ist laut Verge die Einstellung von Sam & Greg und „Kollegen“ (sprich: fast alle von OpenAI) noch nicht einmal endgültig. Und dem neuen CEO Emmett Shear fällt es schwer, den Papierkram zu besorgen und die Mitarbeiter dazu zu bringen, seinen Anweisungen Folge zu leisten. Was passiert als nächstes mit OpenAI? : KI könnte die wichtigste Technologie dieses Jahrzehnts und der kommenden Jahrzehnte sein. Aber die Geschichte, die sich am vergangenen Wochenende abspielte, zeigt uns nur, wie unglaublich fehlerhaft die Menschen sind, denen die Kontrolle droht. Versierte Technik + fehlerhafte Menschen = ziemlich katastrophale Kombination, meiner Meinung nach. Ob Sie hoffnungsvoll oder dem Untergang geweiht in die Zukunft blicken, hängt zunächst einmal stark von Ihrer Veranlagung und Ihrem vorhandenen Temperament ab. Wenn Ilya, der Wissenschaftler, eine Kehrtwende schaffen kann, dann schätze ich, dass dies auch für die Zukunft der Menschheit möglich ist. Die Gefahr, das Schicksal der KI einigen zu überlassen PS: Es tut mir leid, dass diese Geschichte extrem viele Twitter-Screenshots enthielt. Es ist nicht meine Schuld, dass die Basis der Tech-Branche trotz allem immer noch wie Motten an dieser Plattform festhält. Deshalb überlasse ich Ihnen stattdessen diesen Screenshot aus . Bis zum nächsten Mal! Threads
