del derrocamiento forzado de Sam Altman por parte de la Junta de OpenAI se volvió aún más extraña durante el fin de semana. Si no estás en tecnología, te envidio. ¡Tus amigos tecnológicos acaban de ver 3 temporadas de Succession y se quedaron en un suspenso! Pero de todos modos, aquí está la secuencia de eventos desde el derrocamiento forzoso de Sam el viernes. 12:59 pm Lunes 20 de noviembre de 2023: La historia absolutamente extraña : Greg Brockman, director de operaciones/presidente de la junta directiva/cofundador de OpenAI, en solidaridad con Sam. Mencionó conocer la noticia apenas unos minutos antes de que saliera. Viernes 17 de noviembre por la noche renuncia : varios talentos de alto rango en openAI renunciaron. Resulta que Greg y Sam son líderes bastante populares. Luego, hubo un esfuerzo coordinado de muchos empleados de OpenAI para indicarle al público quién renunciaría si Greg y Sam no regresan, citando el tweet de Sam "Amo tanto al equipo de OpenAI" con un emoji de corazón. En particular, la futura directora ejecutiva interina Mira Murati fue parte de ese esfuerzo. Sábado 18 de noviembre : Sam regresó a la oficina de OpenAI para negociar con la Junta sobre su posible regreso (y el de Greg). La condición habría sido encontrar una nueva junta directiva y que todos los miembros actuales de la junta directiva renunciaran. El director ejecutivo de Microsoft, Satya Nadella, dirigió la negociación entre Sam y la junta directiva. Se fijó una fecha límite a las 5 de la tarde y no se cumplió. A última hora del sábado 18 de noviembre : Sam volvió nuevamente a la oficina para negociar con la Junta sobre su posible regreso (y el de Greg). Sam mencionó que esta vez sería la última. Se fijó otro plazo a las cinco de la tarde y no se cumplió. domingo 19 de noviembre Día de la Marmota, Lunes 20 de noviembre: se filtró una carta que decía “traed a Sam de vuelta o lo dejaremos”. De más de 770 empleados, 667 (y contando) firmaron la carta, hasta las 10 a.m. hora MT del lunes. En particular, se cortó con la palabra "Iliya Sutskever", el director científico, uno de los seis miembros de la junta, cuyo voto fue decisivo para derrocar a Sam. : ¡El ex director ejecutivo de Twich, Emmett Shear, aceptó la oferta de trabajo para ser director ejecutivo de OpenAI! Medianoche del domingo 19 de noviembre/lunes 20 de noviembre : Satya Nadella anunció que Sam y Greg se unirían a Microsoft. Más información . OK Lunes 20 de noviembre aquí ….Y ya estamos a mitad de camino del lunes. Pensamientos “concluyentes”, ¿también conocidos como WTF? Estoy seguro de que la historia seguirá desarrollándose, de ahí que la “conclusión” esté entre comillas. Pero aquí están algunos de mis pensamientos sobre esta historia absolutamente loca. Y esta vez, me gustaría que ustedes, los lectores, ayudaran a responder/arrojar algunas luces sobre algunas de ellas. : disculpen mi lenguaje, pero ¿a quién carajo se le ocurrió esta idea innecesariamente complicada y extraña? Y lo más importante, ¿por qué? . Al primero no le importa en absoluto el beneficio, mientras que al segundo lo impulsan. El tablero de OpenAI no está formado literalmente por nadie que tenga un aspecto real en el juego. Ninguno de ellos posee acciones de OpenAI. De hecho, el CEO de Quora tiene un conflicto de intereses en forma de su propio . Microsoft, que posee el 49% de las acciones de OpenAI, no tiene asiento en la junta directiva. Imagínate. La junta sin fines de lucro que controla una empresa con fines de lucro El incentivo de una junta sin fines de lucro está muy reñido con el incentivo de una junta con fines de lucro modelo de IA alternativo, llamado Poe ". Estaba siguiendo muy bien la historia de OpenAI (era una locura, una locura, un fallo en el universo, etc., pero tenía sentido... hasta que se disculpó). Hay seis miembros de la junta directiva de OpenAI: el director ejecutivo y fundador Sam Altman, el director de operaciones y cofundador Greg Brockman, el CSO Ilya Suskever, el director ejecutivo de Quora, Adam D'Angelo, la emprendedora tecnológica Tasha McCauley y la directora de subvenciones tecnológicas de Georgia, Helen Toner. Para destituir al director ejecutivo, tiene que haber una mayoría, es decir, 4 votos. Sabemos que Sam y Greg están del mismo lado. Eso deja a Ilya Suskever como el voto decisivo para forzar la destitución de Sam. Algunas personas incluso lo llaman un golpe entre los aceleracionistas de la IA y los seguridadistas de la IA. ¿Y AHORA ILYA SE DISCULPA? ¿Y decirle a la junta que él… dimitiría? Si vio algo tan atroz en su proceso de “revisión deliberada” que muestra que Sam no es “franco” con la Junta y hace que la junta carezca de “confianza” en la capacidad de Sam para dirigir la empresa… ¿QUÉ ES? ¿Y por qué no es importante ahora? como, ¿qué carajo? "La absoluta extrañeza que es el cambio de sentido de Ilya Sutskever No sé mucho sobre la motivación de Ilya o lo que él sabe que nosotros no, pero dado creo que su voto podría haber sido una alucinación corregida mediante el aprendizaje reforzado a partir de la retroalimentación humana. : lo que dijo lya Sutskever en una entrevista de marzo de este año con HackerNoon, " “Lo llamamos aprendizaje por refuerzo a partir de la retroalimentación humana. Podemos decir que en el proceso de preformación quieres aprender todo sobre el mundo. Con el aprendizaje reforzado a partir de la retroalimentación humana, nos preocupamos por los resultados. Decimos que siempre que el resultado sea inapropiado, no vuelvas a hacer esto. Cada vez que el resultado no tenga sentido, no vuelva a hacer esto. Y aprende rápidamente a producir buenos resultados. Pero es el nivel de los resultados, lo cual no ocurre durante el proceso de preentrenamiento del modelo de lenguaje. Ahora, en cuanto a las alucinaciones, tiene una propensión a inventar cosas de vez en cuando, y eso es algo que también limita en gran medida su utilidad. Pero tengo muchas esperanzas de que simplemente mejorando este posterior aprendizaje por refuerzo a partir del paso de retroalimentación humana, podamos Puedes enseñarle a no alucinar. Ahora se podría decir ¿realmente va a aprender? Mi respuesta es, averigüémoslo. Microsoft se desplomó un 1% tras la noticia del despido de Sam el viernes, que salió a la luz antes del cierre del mercado. Como director ejecutivo, Satya Nadella tiene un deber fiduciario que cumplir con sus accionistas (a diferencia, no sé, la junta directiva de OpenAI), ha jugado un papel decisivo en todas estas negociaciones de ida y vuelta entre los ideólogos y los operadores de OpenAI. Todo lo que puedo decir ahora es que seguro que parece que Microsoft literalmente acaba de adquirir OpenAI (Sam, Greg y lo que parece ser el 80% de una empresa que recientemente fue valorada en 80 mil millones de dólares) por 10 mil millones de dólares. Qué movimiento. ¿El ganador, en última instancia, es Microsoft? Nadie lo sabe. Literalmente. Todos ellos han estado enviando señales extremadamente contradictorias al público. En un suspiro amenaza a la junta directiva con dimitir y marcharse con Sam y al mismo tiempo dice que están “más unidos” que nunca. Aparentemente, según Verge, la contratación de Sam y Greg y "colegas" (léase: casi todos de OpenAI) ni siquiera es definitiva todavía. Y el nuevo director ejecutivo, Emmett Shear, está teniendo dificultades para reunir el papeleo y hacer que los empleados sigan sus órdenes. ¿Qué pasará a continuación con OpenAI? : La IA podría ser la tecnología más importante de esta década y de las décadas venideras. Pero la historia que se desarrolló el fin de semana pasado simplemente nos muestra cuán increíblemente defectuosas son las personas bajo peligro de cuyo control se está controlando. Tecnología inteligente + humanos defectuosos = combinación bastante desastrosa, en mi humilde opinión. Para empezar, si se siente esperanzado o condenado en cuanto al futuro, depende en gran medida de su predisposición y temperamento existente. Si Ilya, el científico, puede dar un giro de 180 grados, supongo que también podrá hacerlo el futuro de la humanidad. El peligro de dejar el destino de la IA en manos de unos pocos PD: Lamento mucho que esta historia tenga muchas capturas de pantalla de Twitter. No es mi culpa que las bases tecnológicas sigan aferrándose a esa plataforma como polillas a pesar de todo. Así que, en su lugar, los dejaré con esta captura de pantalla de . ¡Hasta la proxima vez! los hilos