   de l'éviction forcée de Sam Altman par le conseil d'administration d'OpenAI est devenue encore plus étrange et plus étrange au cours du week-end. Si vous n'êtes pas dans la technologie, je vous envie. Vos amis techniciens ont juste regardé 3 saisons de Succession et se sont retrouvés sur une falaise ! Quoi qu'il en soit, voici la séquence des événements depuis l'éviction forcée de Sam vendredi. 12h59 Lundi 20 novembre 2023 : L'histoire absolument bizarre    : Greg Brockman, COO/Président du conseil d'administration/co-fondateur d'OpenAI,   , en solidarité avec Sam. Il a mentionné avoir eu connaissance de la nouvelle quelques minutes seulement avant sa diffusion.  Tard vendredi 17 novembre a démissionné    : plusieurs talents de haut rang @openAI quittent. Il s'avère que Greg et Sam sont des leaders assez populaires. Ensuite, de nombreux employés d'OpenAI ont coordonné leurs efforts pour signaler au public qui démissionnerait si Greg et Sam ne revenaient pas, en citant le tweet de Sam "J'aime tellement l'équipe OpenAI" avec un emoji en forme de cœur. La future PDG par intérim, Mira Murati, a notamment participé à cet effort.  Samedi 18 novembre    : Sam est retourné au bureau d'OpenAI pour une négociation avec Board concernant son retour potentiel (et celui de Greg). La condition aurait été de trouver un nouveau conseil d’administration et que tous les membres actuels du conseil d’administration démissionnent. Le PDG de Microsoft, Satya Nadella, a dirigé les négociations entre Sam et le conseil d'administration. Une date limite de 17 heures a été fixée et manquée. Samedi 18 novembre tard    : Sam est de nouveau de retour au bureau pour une négociation avec Board concernant son retour potentiel (et celui de Greg). Sam a mentionné que cette fois, ce serait sa dernière. Une autre date limite de 17 heures a été fixée et manquée.   dimanche 19 novembre Le jour de la marmotte  Lundi 20 novembre : une lettre « ramenez Sam ou nous arrêtons » a été divulguée. Sur plus de 770 employés, 667 (et ce n'est pas fini) ont signé la lettre, lundi à 10 heures (heure française).    Notamment, il a été coupé au mot « Iliya Sutskever », le scientifique en chef, l'un des 6 membres du conseil d'administration, celui dont le vote a joué un rôle déterminant dans l'éviction de Sam.    : L'ancien PDG de Twich, Emmett Shear, a accepté l'offre d'emploi pour devenir PDG d'OpenAI !  Dimanche 19 novembre minuit/lundi 20 novembre    : Satya Nadella a annoncé que Sam et Greg allaient, comprenez ceci, REJOINDRE MICROSOFT. Plus d'infos   . d'accord  Lundi 20 novembre ici  ….Et nous sommes à mi-chemin avec lundi.  Pensées « finales », alias WTF ?  Je suis sûr que l'histoire continuera à se développer, c'est pourquoi la « conclusion » est entre guillemets. Mais voici quelques-unes de mes réflexions sur cette histoire absolument folle. Et cette fois-ci, j'aimerais que vous, lecteurs, aidiez à répondre/à éclairer certaines d'entre elles.    : excusez mon langage, mais qui a eu cette idée inutilement compliquée et bizarre ? Et surtout, pourquoi ?   . Le premier ne se soucie pas du tout du profit, tandis que le second est motivé par lui. Le conseil d’administration d’OpenAI ne comprend littéralement aucune personne ayant un véritable skin dans le jeu. Aucun d’entre eux ne détient d’actions OpenAI. En fait, le PDG de Quora a un conflit d'intérêts sous la forme de son propre   ! Microsoft, qui détient 49 % des actions d'OpenAI, ne siège pas au conseil d'administration. Allez comprendre.  Le conseil d'administration à but non lucratif contrôlant une entreprise à but lucratif L’incitation d’un conseil d’administration à but non lucratif est très en contradiction avec celle d’un conseil d’administration à but lucratif modèle d'IA alternatif, appelé Poe    . Je suivais très bien l'histoire d'OpenAI (c'était fou, insensé, un problème dans l'univers, etc, mais c'était logique… jusqu'à ce qu'il s'excuse). Il y a 6 membres du conseil d'administration d'OpenAI : le PDG/fondateur Sam Altman, le COO/cofondateur Greg Brockman, le CSO Ilya Suskever, le PDG de Quora Adam D'Angelo, l'entrepreneur technologique Tasha McCauley et la directrice technique de Georgia Tech de Grants Helen Toner. Pour évincer le PDG, il faut une majorité, soit 4 voix. Nous savons que Sam et Greg sont du même côté. Cela laisse Ilya Suskever comme le vote déterminant pour forcer l’éviction de Sam. Certains parlent même d’un coup d’État entre les accélérateurs de l’IA et les spécialistes de la sécurité de l’IA. Et maintenant, Ilya s'excuse ? Et dire au conseil d’administration qu’il… démissionnerait ? S'il a vu quelque chose d'aussi atroce dans leur processus de « révision délibérée » qui montre que Sam n'est pas « franc » avec le conseil d'administration et que le conseil d'administration manque de « confiance » dans la capacité de Sam à diriger l'entreprise… QU'EST-CE QUE C'EST ? Et pourquoi n’est-ce pas important maintenant ? genre, wwf ? La bizarrerie absolue qu'est le revirement d'Ilya Sutskever  Je ne sais pas grand chose sur la motivation d'Ilya ou sur ce qu'il sait que nous ne savons pas, mais étant donné   je pense que son vote aurait pu être une hallucination corrigée par un apprentissage par renforcement à partir de commentaires humains. : ce que Lya Sutskever a dit dans une interview avec HackerNoon en mars de cette année,    » «Nous appelons cela l'apprentissage par renforcement à partir de la rétroaction humaine. On peut dire que dans le processus de pré-formation, vous voulez tout savoir sur le monde. Avec l’apprentissage par renforcement à partir des commentaires humains, nous nous soucions des résultats. Nous disons que chaque fois que le résultat est inapproprié, ne recommencez pas. Chaque fois que le résultat n'a pas de sens, ne recommencez pas. Et il apprend rapidement à produire de bons résultats. Mais c'est le niveau des résultats, ce qui n'est pas le cas lors du processus de pré-formation du modèle linguistique. En ce qui concerne les hallucinations, elles ont tendance à inventer des choses de temps en temps, ce qui limite également grandement leur utilité. Mais j'ai bon espoir qu'en améliorant simplement cet apprentissage par renforcement ultérieur à partir de l'étape de rétroaction humaine, nous peut lui apprendre à ne pas avoir d'hallucinations. Maintenant, vous pourriez dire : est-ce que ça va vraiment apprendre ? Ma réponse est : découvrons-le.    Microsoft a chuté de 1% suite à l'annonce de l'éviction de Sam vendredi, annoncée avant la clôture du marché. En tant que PDG, Satya Nadella a une obligation fiduciaire à remplir envers ses actionnaires (contrairement, je ne sais pas, au conseil d'administration d'OpenAI), il a joué un rôle déterminant dans toutes ces négociations entre les idéologues et les opérateurs d'OpenAI. Tout ce que je peux dire pour le moment, c'est qu'il semble que Microsoft vient littéralement d'acquérir OpenAI (Sam, Greg et ce qui ressemble à 80 % d'une entreprise récemment évaluée à 80 milliards de dollars) pour 10 milliards de dollars. Quel geste.  Le gagnant, en fin de compte, est-il Microsoft ?    Personne ne sait. Littéralement. Ils envoient tous des signaux extrêmement mitigés au public. D'un seul souffle, ils ont menacé le conseil d'administration de démissionner et de partir avec Sam et, dans le même souffle, ont déclaré qu'ils étaient « plus unis » que jamais. Apparemment, selon The Verge, l'embauche de Sam & Greg et de leurs « collègues » (lire : la quasi-totalité d'OpenAI) n'est même pas encore définitive. Et le nouveau PDG, Emmett Shear, a du mal à rassembler la paperasse et à faire suivre ses ordres aux employés.  Qu’arrivera-t-il ensuite à OpenAI ?    : l'IA pourrait bien être la technologie la plus importante de cette décennie, et des décennies à venir. Mais l’histoire qui s’est déroulée le week-end dernier nous montre à quel point les personnes menacées par les personnes dont le contrôle est contrôlé sont incroyablement imparfaites. Technologie avisée + humains imparfaits = combo assez désastreux, à mon humble avis. Que vous vous sentiez optimiste ou condamné quant à l’avenir, cela dépend en grande partie de votre prédisposition et de votre tempérament existant. Si Ilya le scientifique peut faire demi-tour, j’imagine que l’avenir de l’humanité le peut aussi.  Le danger de laisser le sort de l'IA entre quelques-uns  PS : Je suis vraiment désolé que cette histoire soit extrêmement lourde en captures d'écran Twitter. Ce n’est pas de ma faute si les techniciens de base s’accrochent toujours à cette plate-forme comme des papillons de nuit malgré tout. Je vous laisse donc avec cette capture d'écran, tirée   , à la place. Jusqu'à la prochaine fois!  des discussions

Check out my corner of the internet here 

Read My Stories

Now Hiring

Cet audio est produit dans la langue originale de l'histoire !

Flux chronologique : Sam Altman licencié par le conseil d'administration d'OpenAI et embauché par le PDG de Microsoft, Satya Nadella (peut-être)

About Author

COMMENTAIRES

ÉTIQUETTES

CET ARTICLE A ÉTÉ PARU DANS

Related Stories

Vous voulez gagner un concours d’écriture HackerNoon ? Voici ce que recommandent les gagnants du concours #crypto-api

Le guide complet pour réussir une migration vers le cloud : stratégies et bonnes pratiques

Les couches invisibles : pourquoi les entretiens avec les utilisateurs sont un atout irremplaçable

Boostez votre productivité avec ces 18 outils de développement 🚀🔥

Vous voulez gagner un concours d’écriture HackerNoon ? Voici ce que recommandent les gagnants du concours #crypto-api

Le guide complet pour réussir une migration vers le cloud : stratégies et bonnes pratiques

Les couches invisibles : pourquoi les entretiens avec les utilisateurs sont un atout irremplaçable

Boostez votre productivité avec ces 18 outils de développement 🚀🔥

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps