OpenAI理事会によるサム・アルトマン氏の強制追放という 週末にかけてさらに奇妙になった。あなたが技術系でないなら、私はあなたがうらやましいです。あなたの技術者の友人は、『サクセッション』の 3 シーズンを一気に観ただけで、崖っぷちに取り残されてしまいました。とにかく、金曜日のサムの強制追放以降の一連の出来事は次のとおりです 2023年11月20日月曜日午後12時59分： まったく奇妙な話は、 : OpenAI COO/取締役会長/共同創設者である Greg Brockman が、Sam と連帯して 。彼はそのニュースが発表されるほんの数分前にそのニュースを知っていたと述べた。 11 月 17 日金曜日深夜 辞任しました : @ openAI で数人の高位の人材が辞めました。グレッグとサムはかなり人気のあるリーダーであることがわかりました。その後、多くの OpenAI 従業員が連携して、サムのツイート「OpenAI チームをとても愛しています」をハートの絵文字付きで引用することで、グレッグとサムが戻ってこない場合は全員辞めるだろうと一般の人々に知らせようとしました。注目すべきは、暫定CEOとなるミラ・ムラティ氏がその取り組みに参加したことだ。 11 月 18 日土曜日 : サムは、彼 (およびグレッグ) の復帰の可能性について取締役会と交渉するために OpenAI オフィスに戻りました。条件としては、新しい取締役会を見つけ、現取締役全員が辞任することだった。 Microsoft CEO Satya Nadella がサムと取締役会の間の交渉を主導しました。午後5時に締め切りが設定されていましたが、間に合わなかったのです。 11 月 18 日土曜日遅く : サムは再びオフィスに戻り、彼 (とグレッグ) の復帰の可能性について取締役会と交渉しました。サムは、今回が最後になるだろうと言いました。さらに午後5時の締め切りが設定されていましたが、それを逃しました。 11 月 19 日日曜日 グラウンドホッグデー 11月20日月曜日：「サムを連れ戻さないと辞める」という手紙が流出した。月曜午前10時（モンタナ時間）の時点で、770人以上の従業員のうち667人（そしてさらに増え続けている）がこの書簡に署名している。 注目すべきは、理事会メンバー6人のうちの1人であり、サムの追放に投票が貢献した最高科学責任者「イリヤ・スツケヴァー」という言葉で切り取られたことだ。 : Twichの元CEO、エメット・シアー氏がOpenAIのCEOへの内定を受諾しました! 11月19日日曜日深夜/11月20日月曜日深夜 : サティア ナデラは、サムとグレッグがマイクロソフトに入社すると発表しました。詳細については 。わかりました 11 月 20 日月曜日 、こちらをご覧ください …そして月曜日もまだ半分を過ぎています。 「結論」の感想、別名 WTF? 物語は今後も展開していくと思いますので、「結論」を引用符で囲みます。しかし、ここにこのまったく非常識な物語についての私の考えがいくつかあります。そして今回は、読者の皆さんに、それらのいくつかに答えたり、光を当てたりするのを手伝ってほしいと思います。 : 言い方は悪いですが、この不必要に複雑で奇妙なアイデアを思いついたのは一体誰ですか?そしてもっと重要なのは、なぜでしょうか？ 。前者は利益をまったく気にしませんが、後者は利益に動かされます。 OpenAI 理事会は文字通り、ゲームに実際に参加している人はいません。いずれもOpenAI株を保有していない。実際、Quora の CEO は、 の形で利益相反を抱えています。 OpenAI株の49％を所有するMicrosoftには取締役会の席はない。ゴーフィギュア。 営利企業を管理する非営利理事会 非営利理事会のインセンティブは、営利理事会のインセンティブとは大きく異なります Poe と呼ばれる独自の代替 AI モデル 。私は OpenAI の話については問題なくフォローしていました (それはクレイジーで、非常識で、宇宙の不具合などでしたが、それは理にかなっていました…彼が謝罪するまでは)。 OpenAI の取締役会メンバーは 6 名です: CEO/創設者の Sam Altman、COO/共同創設者の Greg Brockman、CSO Ilya Suskever、Quora CEO の Adam D'Angelo、技術起業家 Tasha McCauley、Grants のジョージア工科大学ディレクター Helen Toner。 CEOを追放するには過半数、つまり4票が必要です。私たちはサムとグレッグが同じ側にいることを知っています。これにより、サムの追放を強制する上でイリヤ・サスケヴァーが有力な票を投じることになる。これをAI加速主義者対AI安全主義者のクーデターと呼ぶ人もいる。そして今イリヤは謝罪しているのですか？そして取締役会に辞任すると告げたのですか？サムが取締役会に対して「率直」ではなく、取締役会がサムの会社経営能力に「自信」を欠いていることを示す「慎重な検討」プロセスから、これほどひどいことを彼が見たとしたら…それは何でしょうか？そして、なぜそれが今重要ではないのでしょうか？なんと？ イリヤ・サツケヴァーのＵターンという絶対的な奇妙さ イリヤの動機や、私たちが知らないことを彼が知っていることについてはあまり知りませんが 考えると、彼の投票は人間のフィードバックからの強化学習によって修正された幻覚だった可能性があると思います。 : 、今年 3 月の HackerNoon とのインタビューでリヤ・サツケヴァーが言ったことを 」 「私たちはこれを人間のフィードバックからの強化学習と呼んでいます。トレーニング前のプロセスでは、世界についてすべてを学びたいと思っていると言えます。人間のフィードバックからの強化学習では、出力を重視します。出力が不適切な場合は、二度と同じことをしないでください、と私たちは言います。出力が意味をなさないたびに、これを再度実行しないでください。また、優れた出力を生成する方法をすぐに学習します。ただし、それは出力のレベルであり、言語モデルの事前トレーニング プロセスでは当てはまりません。次に、幻覚についてですが、幻覚には時々でっち上げをする傾向があり、それが幻覚の有用性を大きく制限するものでもあります。しかし、人間のフィードバックからの後続の強化学習のステップを改善するだけで、私たちは非常に期待しています。幻覚を見ないよう教えることができます。さて、それは本当に学ぶつもりだと言えますか？私の答えは、「調べてみましょう」です。 金曜日の市場終了前に発表されたサム氏解任のニュースを受けて、マイクロソフトは1％急落した。 CEO であるサティア ナデラには、(OpenAI 取締役会の idk とは異なり) 株主に対して果たすべき受託者責任があり、イデオローグと OpenAI 運営者の間で行われるこうした一連の交渉すべてに尽力してきました。今私が言えるのは、それは確かだということだけだ。マイクロソフトは文字通り、OpenAI (サム、グレッグ、そして最近評価額 800 億ドルの企業の 80% らしき) を 100 億ドルで買収したようだ。なんという動きでしょう。 最終的に勝者はマイクロソフトでしょうか？ 誰も知らない。文字通り。彼らは皆、非常に複雑なシグナルを国民に送っている。取締役会に辞任してサムとともに去るよう脅迫し、同時に彼らはこれまで以上に「団結している」と述べた。どうやら、The Verge によると、サムとグレッグと「同僚」（OpenAI のほぼ全員）の採用はまだ最終的ではないそうです。そして、新CEOエメット・シアは書類を集めたり、従業員に彼の命令に従わせるのに苦労している。 次にOpenAIはどうなるでしょうか？ : AI は、この 10 年間、そして今後数十年間で最も重要なテクノロジーになる可能性があります。しかし、先週末に展開されたこの物語は、管理されている危険にさらされている人々がどれほど信じられないほど欠陥があるかを私たちに示しています。精通したテクノロジー + 欠陥のある人間 = かなり悲惨な組み合わせです、私見です。今後の将来について希望を感じるか絶望を感じるかは、そもそものあなたの素質と既存の気質に大きく依存します。科学者のイリヤがUターンできれば、人類の未来も変わると思います。 AI の運命を数人に委ねる危険性 PS: このストーリーは非常に Twitter のスクリーンショットが多かったので申し訳ありません。すべてにもかかわらず、技術系の一般企業がまだ蛾のようにそのプラットフォームにしがみついているのは私のせいではありません。そこで、代わりに からのこのスクリーンショットを残しておきます。次回まで！ スレッド
