Sobre el fallido golpe de Sam Altman en la junta directiva de OpenAI y el peligro de dejar el destino de la IA en manos de unos pocos

Más de 500 humanos de HackerNoon votaron ayer en nuestra encuesta preguntando qué sucedería en la impredecible montaña rusa que solo puede describirse como un intento de golpe épico y fallido por parte de la (ahora desaparecida) Junta OpenAI , eligiendo abrumadoramente la opción de que Sam Altman eventualmente Regresar a OpenAI como CEO.

¡Y los lectores de HackerNoon tienen razón! La última y definitiva negociación para "traer a Sam de vuelta o lo dejaremos" por parte de los empleados de OpenAI y "traer a Sam o nos retiraremos" por parte de los inversores de OpenAI, liderados en gran medida por el CEO de Microsoft, Satya Nadella, y los pesos pesados de Silicone Valley (I Los discutiremos más adelante en este artículo) finalmente llegó a su “final feliz”. El golpe fracasó. Sam y Greg ahora serían bienvenidos, en su regreso triunfal, por el 95% de OpenAI (778+ de 770 empleados, según Bloomberg, firmaron la carta), una nueva Junta Directiva y más fama y poder que nunca.

La prueba irrefutable aún no ha salido a la luz (y no está claro si alguna vez se aclarará), todavía estoy medio seguro de que en los próximos meses o años se publicarán más artículos de investigación, demandas e incluso cambios de políticas. para arrojar luz sobre lo sucedido. Y este no es todavía el fin de la agitación en OpenAI.

Pero primero, un breve resumen.

Para estar 100% al tanto de este drama, debes seguir adelante y leer mi historia del viernes, que anunció y especuló sobre los detalles de los despidos de Sam Altman y la del lunes, que estableció una línea de tiempo cronológica de lo que ocurrió durante el fin de semana. . Cuando terminamos, Sam y Greg todavía estaban saliendo por la puerta y uniéndose a Microsoft, para ser simplemente otro normal corporativo (risas). Se anunció un nuevo CEO interino (que reemplaza a la ya CEO interina Mira Murati, quien resultó ser leal a Sam): Emmett Shear, mejor conocido por ser el ex-CEO de Twitch. Sí, contracción nerviosa. La plataforma de transmisión de juegos. Nada relacionado con la IA.

Satya Nadella, CEO de Microsoft, aunque muy positivo y optimista en todas sus apariciones públicas y anuncios , indicó firmemente que será absolutamente necesario realizar cambios en el nivel de Gobierno Corporativo, y no debería haber más sorpresas para Microsoft, un accionista del 49%. y el socio institucional más importante de OpenAI. Lo leí como: Hay que despedir a la Junta y no hay manera de que Microsoft vuelva a estar en esta situación con la nueva Junta.

Y luego, alrededor de la medianoche del martes 21 de noviembre/temprano en la mañana del miércoles 22 de noviembre, Open AI anunció ya sabes qué, la noticia que Sam & Co y la mayoría de los optimistas de Silicone Valley estaban esperando:

SAM 👏 ESTÁ 👏 DE VUELTA 👏

En ese mismo anuncio, se mencionó que la nueva Junta Directiva de OpenAI estará compuesta por: Bret Taylor (Presidente), Adam D'eangelo y Larry Summer. En particular, no menciona a Sam Altman, Ilya Sutskever, Tasha McCauley y Helen Toner.

La desalineación entre organizaciones sin fines de lucro y con fines de lucro: la pesadilla de la existencia de OpenAI

Creo que la teoría más plausible de por qué se permitió que ocurriera el golpe es la siguiente: se supone que la (ahora desaparecida) Junta de OpenAI, una organización sin fines de lucro que controla la LLC con fines de lucro (imagínese), no tiene ningún incentivo para maximizar las ganancias, que es el punto principal de OpenAI, que es el creador de Chatgpt, que recaudó 13 mil millones de Microsoft y que tenía el deber fiduciario de ganar dinero para sus inversores. Ninguno de los miembros votantes de la Junta, incluido el propio Altman, posee acciones de OpenAI. Su misión, como se establece en los estatutos de la empresa, es "garantizar que la inteligencia artificial general (sistemas de IA que generalmente son más inteligentes que los humanos) beneficie a toda la humanidad". En otras palabras, la Junta sin fines de lucro, que supervisa la LLC con fines de lucro, no tiene ningún interés en recuperar dinero para los inversionistas , ni en los poderes informáticos de Microsoft (que son absolutamente necesarios para realizar el tipo de investigación necesaria para implementar AGI), ni en el hecho de que que OpenAI desde el lanzamiento de ChatGPT se había convertido en la empresa tecnológica de facto del espíritu de la época en décadas. Lo único que le interesaba, y estaba legalmente obligado a supervisar, era el despliegue seguro de la Inteligencia General Artificial (IAG). En teoría, estaba perfectamente feliz de no ganar más dinero, reducirse y regresar a un pequeño grupo de investigación de élite.

Pensé que esta teoría era la más plausible debido (como mencioné en mi última historia ) al hecho de que Ilya Sutskever , cofundador y científico jefe de OpenAI, era parte de la facción original de la Junta que derrocó a Sam en primer lugar. (Más tarde se arrepintió de su decisión e hizo un giro de 180 grados que seguramente sorprendió a todos). Es una mente brillante y se cree ampliamente que es el cerebro de la Operación. De hecho, el propio Elon Musk (de Google Deepmind) lo cortejó para OpenAI, lo que, según Musk , causó una aparente fractura en la amistad de larga data entre Elon Musk y el CEO de Google, Larry Page. La fractura en ese momento (en 2015/2016) tenía que ver con la seguridad de la IA. Ilya se preocupaba por la seguridad de la IA, al igual que Elon, mientras que Larry no. Así, Ilya se convirtió en el equipo OpenAI.

Otra razón por la que pensé que se trataba de un desacuerdo o desalineación fundamental en torno a la seguridad de la IA es el hecho de que Helen Toner, una de los tres miembros de la Junta que votó para destituir a Sam, escribió recientemente un artículo de investigación que (según lo informado por el New York Times) estuvo a favor del competidor directo de OpenAI, Anthropic, y criticó el enfoque de OpenAI para implementar AGI. Anthropic, claro está, se creó exactamente debido a esta tensión de seguridad de la IA. Sus fundadores son Dario Amodei, ex vicepresidente de investigación de OpenAI, y su hermana, Daniela Amodei, quien fue vicepresidenta de seguridad y políticas de OpenAI. Varios otros alumnos de investigación de OpenAI también formaron parte del equipo fundador de Anthropic. Aún más extraño, se informó que el CEO de Anthropic, Dario, había sido cazado furtivamente por la antigua junta directiva en relación con una posible fusión con OpenAI (risas, la compañía de la que partió, en primer lugar), y se negó.

Y por último, ayer mismo, apenas unas horas antes de que se conociera la noticia del regreso triunfal de Sam y Greg, Elon Musk, el fundador e inversor original de OpenAI, compartió en su propia plataforma X, una carta de ex empleados "preocupados" de OpenAI por , entre muchas cosas, un patrón de comportamiento perturbador por parte de Sam Altman y compañía, de no escuchar a los investigadores de seguridad. Vea la carta completa aquí . En otras palabras, la mayoría de las personas que han estado en gran desacuerdo con la seguridad de Sam re/AI a lo largo de los años se han ido. Lo que queda de OpenAI, en su mayor parte, son los leales a Sam.

Conozca a la nueva junta directiva de OpenAI

En la negociación para que Sam Altman regresara como director ejecutivo, la (antigua) Junta Directiva acordó tener a estas tres personas iniciales en la Junta Directiva. Entonces, vamos a conocerlos.

Bret Taylor

Bret Taylor es uno de los tecnólogos mejor conectados y respetados de Silicon Valley. Es mejor conocido por ser el ex director ejecutivo de Salesforce, la empresa líder en servicios de software basados en la nube. Pero aún más notablemente, Taylor jugó un papel fundamental como presidente de la (anterior) junta directiva de Twitter, donde jugó un papel decisivo en (forzar la) adquisición de Twitter por parte de Elon Musk, después de que el multimillonario cambiara de opinión. del acuerdo de 44 mil millones de dólares (ver aquí , aquí y aquí ).

Larry verano

Lawrence "Larry" Summers es un economista estadounidense, exvicepresidente de Economía del Desarrollo y economista jefe del Banco Mundial y exsecretario del Tesoro de Estados Unidos. Es mejor conocido por ser el 27º presidente de la Universidad de Harvard. Durante su mandato en Harvard, Summers generó controversia con sus comentarios sobre las mujeres en la ciencia, sugiriendo que las diferencias intrínsecas en aptitud entre hombres y mujeres podrían ser una razón para la subrepresentación de las mujeres en los campos de la ciencia y la ingeniería. Estos comentarios generaron críticas generalizadas y jugaron un papel importante en su eventual renuncia a la presidencia de Harvard. Imagínate.

Adán D'Angelo

Adam D'Angelo, director ejecutivo de Quora, un popular sitio web de preguntas y respuestas. Antes de Quora, fue director de tecnología de Facebook y también podría haber sido uno de sus muchos cofundadores además de Mark Zuckerberg. En particular, es el único miembro permanente de la Junta de OpenAI que seguirá formando parte de esta nueva junta. Sí, la Junta que derrocó a Sam en primer lugar.

Hmmm, un excelente negociador de negocios ( el único adulto en una sala que podría hacer que Elon cumpliera su contrato legalmente vinculante para comprar Twitter ), un economista influyente aunque controvertido (los comentarios sexistas de Larry sobre el intelecto de las mujeres no habrían sido un buen augurio para la junta destituida). miembros, ¡ambos mujeres!), y un misterioso CEO que rara vez concedía entrevistas (nadie sabe por qué Adam (supuestamente) derrocó a Sam, incluso hasta el día de hoy)... esas son las personas que actualmente tenemos controlando el destino de los posiblemente más influyentes. tecnología de nuestro tiempo.

Pensamientos finales (con suerte, por última vez en esta saga, por ahora)

La IA podría ser la tecnología más importante de esta década y de las décadas venideras. Pero la historia que se desarrolló el fin de semana pasado simplemente nos muestra cuán increíblemente defectuosas son las personas bajo peligro de cuyo control se está controlando. Tecnología inteligente + humanos defectuosos = combinación bastante desastrosa, en mi humilde opinión. No importa cuán defectuosa, irracional y aparentemente loca parezca la ahora desaparecida junta de OpenAi en su decisión de despedir a Sam, todavía hay un elefante grande, gigante y descomunal en la sala que es el evento que desencadena la decisión en el primer lugar.

Se informó que Sam básicamente aceptó una investigación exhaustiva a su regreso. Y hasta entonces, seguiré siendo, en el mejor de los casos, escéptico sobre la capacidad de esta nueva Junta para defender simultáneamente la elevada misión de OpenAI de salvar a la humanidad de los robots súper inteligentes (parafraseado) y al mismo tiempo ganar mucho dinero. Parece una paradoja, al igual que el capitalismo, el altruismo efectivo y, de hecho, los seres humanos.