OpenAI 失敗したサム・アルトマン取締役会クーデターと AI の運命を少数の手に委ねる危険性について

昨日、500人以上のHackerNoon人間が、（現在は消滅した）OpenAI理事会によるクーデター未遂の大失敗としか言いようのない予測不可能なジェットコースターの中で何が起こるのかを尋ねるアンケートに投票し、圧倒的にサム・アルトマンが最終的に選ぶ選択肢を選んだ。 OpenAI に CEO として復帰します。

そして、HackerNoon 読者は正しいです! OpenAI従業員による「サムを連れ戻す、さもなければ撤退する」という最後にして最後の交渉、そして主にMicrosoft CEOサティア・ナデラとシリコンバレーの重鎮が主導するOpenAI投資家による「サムを連れ戻す、さもなければ撤退する」という交渉（Iそれらについてはこの記事で後ほど説明します) ついに「ハッピーエンド」を迎えました。クーデターは失敗した。サムとグレッグは凱旋として、OpenAI の 95% (ブルームバーグによれば従業員 770 名中 778 名以上が書簡に署名)、真新しい取締役会、そしてこれまで以上の名声と権力によって歓迎されることになります。

決定的な証拠はまだ出ていません（そして、それが解明されるかどうかは不明です）。私は、今後数カ月、あるいは数年以内にさらに多くの研究論文、訴訟、さらには政策変更さえも出てくるだろうと半信半疑でいます。何が起こったのかを明らかにするために。そして、OpenAIの混乱はまだ終わっていない。

まず最初に、簡単な要約をします

このドラマを100％理解するには、 サム・アルトマンの解雇の詳細を発表し推測した金曜日の私の記事と、週末に起こったことを時系列にまとめた月曜日の記事を読んでおくべきだ。 。私たちが出発したとき、サムとグレッグはまだ会社を出てマイクロソフトに入社し、 単なる企業の標準になろうとしていました（笑）。新しい暫定CEOが発表された（サム支持者であることが判明したすでに暫定CEOのミラ・ムラティの後任）：Twitchの元CEOとして最もよく知られるエメット・シア氏。そう、トゥイッチ。ゲームストリーミングプラットフォーム。 AI関連のものは何もありません。

Microsoft CEO のサティア ナデラ氏は、公の場でのあらゆる発言や発表において非常に前向きで明るい姿勢を示しましたが、コーポレート ガバナンス レベルでの変更が絶対に必要であり、49% の株主である Microsoft にとってこれ以上驚くべきことではない、と強く示唆しました。 OpenAI の最も重要な組織的パートナーです。私はそれを次のように読みました。取締役会は解任されなければならず、Microsoft が新しい取締役会で再びこの状況に陥ることはあり得ません。

そして、11 月 21 日火曜日深夜 / 11 月 22 日水曜日早朝 - Open AI は、Sam & Co とシリコンバレーの楽観主義者のほとんどが待ち望んでいたニュースを発表しました。

サム 👏 👏 戻ってきました 👏

同じ発表の中で、OpenAI の新しい取締役会はブレット テイラー (議長)、アダム ディアンジェロ、ラリー サマーで構成されると述べられました。注目すべきことに、サム・アルトマン、イリヤ・サツケヴァー、ターシャ・マッコーリー、ヘレン・トナーについては言及されていない。

非営利と営利の不一致: OpenAI の存在の悩み

なぜクーデターの発生が許されたのかについて、最ももっともらしい理論は次のようなものだと思います。営利LLC（ゴーフィギュア）を管理する非営利団体であるOpenAIの（現在は消滅した）理事会には、クーデターを行うインセンティブがまったくないはずです。利益を最大化すること、これが Chatgpt の開発者である OpenAI の主要なポイントであり、Microsoft から 130 億ドルを調達し、投資家に利益をもたらす受託者責任を負っていました。アルトマン氏自身を含む取締役会の投票権を持つメンバーは全員、OpenAI の株式を保有していません。社内規定に記載されているように、彼らの使命は「汎用人工知能 (一般に人間よりも賢い AI システム) が全人類に利益をもたらすことを保証する」ことです。言い換えれば、営利目的の LLC を監督する非営利理事会は、投資家や Microsoft のコンピューティング能力 (AGI を展開するために必要な種類の研究を行うためには絶対に必要です) や事実にお金を戻すことにはまったく興味がありません。 ChatGPT のリリース以来、OpenAI は数十年で事実上の時代精神のテクノロジー企業になったということです。同社が関心を持ち、法的に監督する必要があったのは、汎用人工知能 (AGI) を安全に展開することだけでした。理論的には、これ以上お金を稼がなく、縮小し、少数のエリート研究グループに戻るのは完全に幸せでした。

この理論が最ももっともらしいと私が考えたのは、（ 前回の記事で述べたように）OpenAI の共同創設者兼主席研究員である私lya Sutskeverが、そもそもサムを追放した元の取締役会派の一員だったという事実からです。 (彼は後に自分の決断を後悔し、U ターンをしましたが、これは絶対に皆を驚かせたと言っても過言ではありません) 彼は優れた頭脳を持ち、作戦の頭脳であると広く信じられています。実際、彼はイーロン・マスク自身（Google Deepmindから）からOpenAIに求愛されており、マスクによれば、それがイーロン・マスクとGoogle CEOのラリー・ペイジの長年の友情に明らかに亀裂を生じさせたという。当時（2015/2016年）の破損はAIの安全性に関するものでした。イリヤは AI の安全性を気にしていましたが、イーロンも同様でしたが、ラリーはそうではありませんでした。そこで、イリヤはチーム OpenAI になりました。

これが AI の安全性に関する根本的な意見の相違/不一致であると私が考えたもう 1 つの理由は、サムの追放に投票した 3 人の取締役会メンバーの 1 人であるヘレン・トナーが最近次のような研究論文を書いたという事実です (ニューヨーク・タイムズ紙の報道によると)。 OpenAI の直接の競合である Anthropic を支持し、AGI を展開する OpenAI のアプローチには批判的でした。念のため言っておきますが、Anthropic はまさにこの AI の安全性に対する緊張のために作成されました。創設者は、OpenAI の元研究担当副社長であるダリオ・アモデイと、その妹で OpenAI の安全性および政策担当副社長であったダニエラ・アモデイです。他にも OpenAI 研究の卒業生数名が Anthropic の創設チームに参加していました。さらに奇妙なことに、Anthropic CEOのDario氏は、OpenAI（笑、そもそも元の会社）との合併の可能性に関して旧取締役会から引き抜かれ、拒否したと報じられた。

そして最後に、ちょうど昨日、サムとグレッグの凱旋のニュースが流れるほんの数時間前に、OpenAIの元の創設者であり投資家であるイーロン・マスク自身が、OpenAIの「懸念する」元従業員からの手紙を自身の所有するプラットフォームXで共有した。 、とりわけ、安全研究者の意見に耳を傾けないサム・アルトマンらの不穏な行動パターンが挙げられる。書簡全文はこちらをご覧ください。言い換えれば、長年にわたりサム・リ/AI の安全性に大きく反対してきた人々のほとんどが去ってしまったということです。 OpenAIに残っているのは、ほとんどの場合、サムの支持者だけだ。

OpenAI の新しい取締役会についてご紹介します

サム・アルトマンをCEOとして復帰させるための交渉において、（旧）取締役会はこれら3人の初期人物を取締役会に迎えることに同意した。それでは、彼らに会いましょう。

ブレット・テイラー

ブレット・テイラーは、シリコンバレーで最も人脈が広く尊敬されている技術者の 1 人です。彼は、クラウドベースのソフトウェア サービスの大手企業である Salesforce の元 CEO を務めたことで最もよく知られています。しかし、さらに注目に値するのは、テイラーが（元）ツイッターの取締役会の議長として極めて重要な役割を果たし、億万長者が転落した後、イーロン・マスクの首を絞めてツイッターの買収（買収を強行）することに尽力したことである。 440億ドルの取引のうち（ ここ、 ここ、そしてここを参照）。

ラリー・サマー

ローレンス・"ラリー"・サマーズはアメリカの経済学者であり、世界銀行の元開発経済担当副総裁兼チーフエコノミスト、そして元米国財務長官です。彼はハーバード大学の第27代学長を務めたことで最もよく知られています。サマーズ氏はハーバード大学在職中、科学分野の女性に関する発言で物議を醸し、男性と女性の適性の本質的な違いが科学および工学分野での女性の過小評価の原因である可能性があると示唆した。これらの発言は広範な批判を引き起こし、最終的にハーバード大学の学長職を辞任する上で重要な役割を果たした。ゴーフィギュア。

アダム・ディアンジェロ

アダム・ディアンジェロは、人気の質問と回答のウェブサイトである Quora の CEO です。 Quora に入社する前は、Facebook の最高技術責任者であり、マーク ザッカーバーグ以外の多くの共同創設者の 1 人でもあった可能性があります。最も注目に値するのは、彼が OpenAI 理事会の常任メンバーの中でこの新しい理事会でも引き続き務める唯一の人物であることです。そう、そもそもサムを追放した取締役会だ。

うーん、素晴らしいビジネス取引のメーカー（イーロンにツイッター買収の法的拘束力のある契約を守らせることができる唯一の大人）、物議をかもしているとはいえ影響力のある経済学者（女性の知性に関するラリーの性差別的なコメントは、追放された取締役会にとって良い前兆ではないだろう）メンバー（両方とも女性です！）、そしてインタビューにほとんど応じなかった謎のCEO（アダムがサムを追放した（と言われている）理由は今日に至るまで誰も知りません）…これらは、おそらく最も影響力のある人物の運命を現在私たちがコントロールしている人々です私たちの時代のテクノロジー。

まとめ（今のところ、この物語が最後になることを願っています）

AI は、この 10 年間、そして今後数十年間で最も重要なテクノロジーになる可能性があります。しかし、先週末に展開されたこの物語は、管理されている危険にさらされている人々がどれほど信じられないほど欠陥があるかを私たちに示しています。精通したテクノロジー + 欠陥のある人間 = かなり悲惨な組み合わせです、私見です。今はなきOpenAi取締役会がサムを解雇するという決定にどれほど欠陥があり、非合理的で、正気を失っているように見えても、部屋には依然として大きくて巨大な巨大な象が存在し、それが最初の決定の引き金となった出来事である。場所。

サムは帰国後の徹底した捜査に基本的に同意したと報じられている。そしてそれまでは、私はこの新しい理事会が、超スマートロボット（言い換え）から人類を救うというOpenAIの崇高な使命を守りながら、同時に大金を稼ぐ能力については、せいぜい懐疑的なままでいるだろう。資本主義、効果的な利他主義、さらに言えば人間と同じように、矛盾しているように思えます。