世界的に有名な人工知能研究所である OpenAI は、非営利組織から営利企業への移行を決定したことを発表し、大きな話題になりました。 . 2015 年から 2018 年まで、同社は非営利であり続けたと言われています。今日、同社は驚異的な評価を得ています . 2019年 290億ドル 眉をひそめ、議論を巻き起こしたこの動きは、長い間、世界の要塞と見なされてきた組織の劇的な変化を表しています。 高度な AI 技術に対する需要が高まる中で、それを実現した人々による開発。しかし、OpenAI はその崇高な理想と市場の現実とのバランスをとろうとしているが、同社が AI 開発の複雑な状況をどのようにナビゲートし、その技術がより大きな利益のために使用されるようにするかについては疑問が残る. 倫理的で責任ある AI このストーリーでは、OpenAI の変革を深く掘り下げ、その大胆な動きの意味を探ります。 OpenAI の初期: 非営利の研究所 むかしむかし、遥か彼方の銀河系で...冗談ですが、そこはシリコン バレーでした。OpenAI は、人工知能で世界を救うという使命を持つ非営利の研究所として設立されました。彼らの計画は？機械学習を使用して、サンフランシスコの研究所から癌を取り除き、自動運転車を構築し、世界の飢餓を終わらせます。大したことはありません。 非営利の研究機関として、OpenAI は最先端の AI 技術の開発と、この分野での画期的な研究の実施に注力してきました。口実？同社は、特許パーティーを開くと発表し、全員が招待されました!特許や研究を一般に公開することで、他の組織や研究者と「自由に協力」すると宣言した。 会社のとき Sam Altman、Reid Hoffman、Jessica Livingston、Elon Musk、Ilya Sutskever、Peter Thiel、Olivier Grabias など、著名な起業家や研究者のグループによって、その使命は明確でした。 2015年に開始 。」 「経済的利益を生み出す必要性に制約されることなく、社会全体に利益をもたらす方法で人工知能を進歩させること 「この分野のトップ研究者」のリストは、AI 研究者で OpenAI の共同創設者であるグレッグ ブロックマンによって作成されたと伝えられています。によると、ディープラーニングの動き . 2015 年 12 月、ブロックマンは 9 人を同社の最初の従業員として採用することができました。OpenAI の約束と使命が、これらの研究者を会社に惹きつけたと言われています。 有線 Google と Facebook の元インターンで、後に OpenAI で働くようになった Wojciech Zaremba 氏は、OpenAI が他の場所で提供されたオファーに匹敵するものではなかったにもかかわらず、従業員と使命のために入社したと語った。これらのオファーは、彼の市場価値の 2 倍または 3 倍だったと彼は言いました。彼によると、 「OpenAI は最高の場所でした。」 同社は、将来に焦点を当てた研究を調査し、最終的にはこの研究のすべてではないにしても大部分を、要求した人に無料で共有する機会など、より価値のあるものを提供したため. https://twitter.com/sama/status/1610666441027772416?embedable=true Google を退職して OpenAI に入社した OpenAI のリサーチ ディレクター Ilya Sutskever 氏は、Google での前職から OpenAI への移行について次のように述べています。 「彼らは私が留まることを非常に説得力のあるものにしてくれたので、簡単な決断ではありませんでしたが、最終的に私は OpenAI を採用することに決めました。その理由の 1 つは、非常に強力な人々のグループと、非常に多くの点で、使命があるからです。」 会社の設立には、次のコミットメントが伴いました。 YC リーダーの Paul Graham を含む創設メンバー、および AWS や Infosys などの企業スポンサーからの資金提供により、研究者が安全性や倫理を損なうことなく AI の可能性を最大限に探求できるようにするセーフティ ネットを作成することを目的としています。 10億ドル リリースされた AI ソフトウェア OPenAI の最初のバッチの 1 つは、 、「強化学習」と呼ばれる技術によって人工知能システムを構築するためのツールキット。 Brockman が会社が始めると述べたこととまったく同じです。同年、 さまざまなゲーム、Web サイト、およびその他のアプリケーションを介して AI の一般的な知性を評価し、磨くためのソフトウェア プラットフォームも導入されました。 OpenAI ジム "宇宙、" しかし、この会社の優勢の初期段階で、イーロン マスクは、自動運転に関するテスラの人工知能 (AI) の研究開発の取り組みとの利益相反の可能性と将来性を理由に、2018 年に取締役会の席を離れました。会社。しかし、そうですか？最新のレポートによると、「利益相反」には私たちが知っているよりも多くのことがあり、すぐにわかります. 非営利団体への資金提供の課題 非営利団体である OpenAI は、研究目標と予算の制約とのバランスをとるという絶え間ない闘争に直面していました。研究者は、投資家を感動させる最先端の AI 技術を開発しながら、輪ゴムのように 1 ドルを伸ばす方法を学ばなければなりませんでした。 同社は オープンな非営利組織は、その目的を達成するための最も効果的な方法でした。 前に言った 「私たちの研究は金銭的な義務から解放されているため、人間へのプラスの影響により焦点を当てることができます。私たちは、AI は個々の人間の意志の延長であり、自由の精神に則り、可能な限り広く均等に分散されるべきだと考えています。」 しかし、数年後、彼らは、オープンで非営利の組織であることは、この目的を実行することをより困難にするだろうという結論に達しました.そのため、2019 年のエポックで、OpenAI は記念碑的な変曲点を経験しました。非営利団体としては異例の動きで、OpenAI は 、「キャップドプロフィット」企業として運営される明確なエンティティであり、その基本構造に変革をもたらしました。 OpenAI LP作成の発表 営利目的への移行の背後にある動機 OpenAI が営利目的のモデルに移行するという大胆な決定を下したとき。毎食ラーメンを食べるのにうんざりしていたからだと言う人もいれば、イーロン・マスクよりも多くのお金を稼ぎたかったからだと言う人もいます.理由はともかく、非営利の研究所にとっては大きな変化でした。 実際には、この決定は、財務の持続可能性を高め、その技術の商業的応用を追求したいという願望によって動機付けられたものであり、倫理的な AI 開発への組織のコミットメントを損なう可能性があると一部の批評家が主張したため、明らかにこの動きには論争がなかったわけではありません。 まず、会社 「数十億ドル」を調達し、最高の人材を採用するために莫大な契約ボーナスを支払う必要があると。 主張した 「今後数年間で、大規模なクラウド コンピューティング、有能な人材の獲得と維持、AI スーパーコンピューターの構築に数十億ドルを投資する必要があります。」 同社はまた、OpenAI を開いたままにしておくことも危険だと考えていました。 Voxによると 、OpenAI の安全チームは、すべての作業をオープンソースにすることは、人類の最善の利益に役立つのではなく、問題を引き起こす可能性があるという結論に達しました。そのため、彼らが GPT-2 を作成したとき、盗作、ボット、偽の Amazon レビュー、およびスパムのために簡単に悪用される可能性があるという懸念から、GPT-2 を公開することを差し控えました。 報告 しかし、同社はこの移行を行ったが、同じ目標を追求し続け、投資家と従業員の両方に財政的制限を課すと主張した.組織の新たな目的は富を築くことであるにもかかわらず、その道徳的基準を認識し続け、非倫理的な慣行を控えることを決意したと主張した.その結果、OpenAI LP を、営利団体と非営利団体を組み合わせた「キャップドプロフィット」企業として設立するというアイデアが生まれました。 「私たちは、使命を果たしながら資本を調達する能力を高めたいと考えています。私たちが知っている既存の法的構造は、適切なバランスをとっていません。」 前述の「利益上限」の枠組みは、最初のラウンドの投資家に課せられた制限をほのめかしており、最初の投資の 100 倍の最大リターンしか受け取ることが許可されていません。 収益性と倫理的配慮のバランス 非営利から営利目的への移行により、OpenAI は利益への欲求と倫理的な AI 開発へのコミットメントのバランスを取る必要がありました。それは一輪車に乗ってジャグリングをしようとするようなものでしたが、人類の本質についてのより実存的な質問がありました. 会社情報 ラボは非営利のガバナンス構造 (OpenAI LP は、非営利部門である OpenAI Inc. によって「管理」されます) の下で運営されていると述べています。最も包括的なユニバーサル ベーシック インカム (UBI) の実験を後援したり、必要に応じて株主への株式義務を取り消すことができるなど、重要なイニシアチブに着手します。 Webサイト 株主が受け取ることができる利益の上限は、株主が制限なく富を手に入れようとする誘惑に駆られたり、非常に有害な何かを展開するリスクを冒したりするのを防ぐと述べた. それにもかかわらず、Elon Musk は留保を維持しています。 3 月 15 日、彼は現在所有しているソーシャル メディア プラットフォームである Twitter で不満を表明しました。 https://twitter.com/elonmusk/status/1636047019893481474?embedable=true どうやら、ミームの億万長者は、営利企業になる前に、LLM 巨人に 1 億ドルを投資したようです。しかし、Elon は OpenAI の移行の法的影響について懸念しているように見えますが、彼の過去 人工知能の潜在的な危険性について、彼がどれほど真剣に懸念しているかを示しています。 主張 テスラのボスは、単に利益相反のために OpenAI を離れたと述べたが、 Elon が退職した本当の理由は、会社を乗っ取って自分で運営するという彼の提案が、Sam Altman と他の創設者の両方によって拒否されたことであったことを示しています。彼がこのアイデアを提案した理由は、ベンチャーがグーグルに大きく遅れをとっていると感じ、彼が物事を好転させる救世主であると感じたからです。 セマフォ イーロンは、AI ラボを Google に対抗する力として確立することが彼の目的であることを明らかにしました。 https://twitter.com/elonmusk/status/1626516035863212034?embedable=true 彼が去ることで、彼はまた、意図された多額の寄付をすることを控えました. OpenAIの マスク氏は組織に財政支援を提供し続けると述べたが、彼は約束を果たさなかった。 声明 では、本当に利益相反はイーロンが負けた権力闘争だったのでしょうか? Semafor のレポートによると、OpenAI の少数の個人だけが、Musk の辞任が利益相反の可能性によるものであるという信念を共有していたようです。さらに、彼が OpenAI のオフィスを離れたときに行った、主にこのトピックを中心としたスピーチは、提供された説明に懐疑的なままであった大多数の従業員から好意的なフィードバックを受けませんでした。 幸いなことに、イーロンが去った後、マイクロソフトは OpenAI に 10 億ドルを投資し、同社の GPT-3 の独占ライセンス権を獲得 、その独占的なクラウド プロバイダーにもなります。この投資は、OpenAI がさらなる研究努力を追求できるようにするのに役立ちました。 AI ラボと新しい投資家である Microsoft との共同作業を通じて、大規模なモデルをトレーニングするためのスーパーコンピューターが構築され、最終的に ChatGPT と画像ジェネレーター DALL-E が作成されました。 投資した 1年後のモデル OpenAI の未来 会社の狙いは、 、社会にプラスの影響を与えるAIシステムを開発し、競合する意図を明言せずにその技術の収益性の高い商用アプリケーションを探求することを目的としていますが、代わりに他の研究機関や政策機関と協力して最終的な安全性を促進することを目指していますAGI開発の段階。 それ自体が指摘したように とはいえ、競争は激化し続けています。たとえば、イーロンは敵対者ではないという見せかけをしているかもしれませんが、 https://twitter.com/elonmusk/status/1639200036578885632?embedable=true 実のところ、彼は実際に OpenAI の直接の競合他社の時流に加わっています。を積極的に追求している. OpenAIに対抗する新しいスタートアップの。明らかに、Elon はバトル リングを離れていません。したがって、権力闘争はまだ続いています。 作成 サム・アルトマン氏が当初の使命に沿った方法として新しい営利団体への出資を差し控えるという異例の決定を下したにもかかわらず、イーロン・マスク氏は OpenAI がオープンな組織からクローズドな組織に移行することに懐疑的です。 https://twitter.com/elonmusk/status/1599291104687374338?embedable=true 今後も、同社は革新的な研究と新技術の開発を通じて、人工知能の限界を押し広げ続けます。彼らが次に何を思いつくか誰が知っていますか？人間を火星に飛ばすロボットか、世界の終わりを予言できる機械かもしれません。いずれにせよ、それは非常に興味深いようです。
