2014年、Googleが発表した ロンドンに本拠を置くAI研究スタートアップは、当時始まった機械学習市場に投資するための継続的な取り組みの一環として、ムーアの法則によって命じられた強力なコンピューティングの利用可能性がますます増加しつつあり、わずか1年後、2015年に、ピーター・ティエルとイーロン・マスクを含むシリコンバレーで最も有名な投資家のいくつかの間の共同パートナーシップが、最終的にはOpenAIを生み出した。 最後に、Amazonは、さまざまなテクノロジーパワーハウス間のいわゆるAIレースを避けた数年後、 AI開発会社とAI倫理研究ラボ「Anthropic」は、400億ドルの投資とコンピューティングパートナーシップを通じて、 DeepMindの5億ドルの買収 2019年にMicrosoftとのパートナーシップ 戦略的同盟構築 DeepMindの5億ドルの買収 2019年にMicrosoftとのパートナーシップ 戦略的同盟構築 テクノロジー市場における研究所の共存の最初の数年間、彼らの競争の努力は、研究論文のわずかな出版とAI製品の商業化の限られた試みに限定された。AI企業が大学と並んで研究を生み出し、機械学習の分野をゆっくりと進歩させる長期的な投資と考えられていたこの時期の偶然的な研究は、2019年末にインターネットを通じてChatGPTのウイルス拡散のおかげでOpenAIの人気の急速な上昇によって迅速かつ決定的に打ち砕かれた。それに続いたのは、電力移転の複雑な時期、優先順位を変え、忠誠を強化し、そして何よりも、可能な限り最も強力なAIモデルの構築を続けるレースでした。進歩がますます ステージ設定 私の分析を開始するために、私は、他のAI開発プログラムであるxAIや特定の分野にAIを適用するスタートアップであろうと、AI業界で成功しているが比較的小さなプレイヤーの無数の数があることを認めたいのですが、なぜ私はそれらを割引するのかを理解するには、AI競争を「勝つ」という定義を考える - AGIを他の企業より前に作り出して、競合相手の技術を進化させるための努力よりも十分な速度で再現することができます。 実際、OpenAIは1年か2年間、AI業界を支配し、SchatGPTの新たなイーテレーションをリリースし、各々、世俗人と専門家にとってより大きな能力を約束し、OpenAIに大規模な消費者ベースを蓄積し、その利潤分野への投資を増やしました。興味深いことに、非常に安定したクラウドコンピューティングシステムと膨大な量の金融資本資源を持つテクノロジー企業であるGoogleは、2023年までChatGPTに挑戦するチャットボットを導入しませんでした。 前述したように、多くのAI企業は研究を優先し、GoogleのAI研究部門(Google BrainとGoogle DeepMind)は、多くのプロジェクトに明確に取り組んでいます。 ChatGPTとは異なり、既に新しい、より有能なモデルをリリースした瞬間にユーザーに押し付けるための強力な枠組みを持っていたR&Dから商業化への明確なパイプラインを持っているため、Googleの部門がそれぞれ革新的な研究を生み出したにもかかわらず(Google BrainはTransformer AIアーキテクチャを開発する責任を負っていたが、Google DeepMindは最終的にReinforcement Learningを使用してアルファゼロRLフレームワークを使用してタンパク質の折りたたみ予測を開発するための研究でノーベル賞を受賞した)、Googleのトップブレンドは、Google(そしてそのため、一般の人々)がこれらの発見から恩恵を受けることを可能にする行動を実施できなかった。 道 ノン Googleの無行動は、世界で最も強力なテクノロジー企業の1つであるという事実を変えることはありません。OpenAIの急速な成功(およびおそらくMicrosoftが新興AIスタートアップの背後にあるという事実)によって、Googleは生産プロセスを簡素化するためにいくつかの変更を行いました。 2023年3月にDeepMindという名前の統一部門に移行し、 また、これらの行動は、Googleがチャットボット市場でOpenAIと競争するという新たな欲望のせいではなく、チャットボットの普及の全体的な増加の結果でもあることを知ることも重要です。 以前のモデル(BERTやStabil Diffusionなど)はかなり専門的だった(特にNLPと画像生成)が、多様性の高まりとMoE(Expert Mixer)パラダイムの導入は、おそらくGoogleが5つの異なるモデルのアイデアを捨てて、これらの5つのことをまだできる1つの強力なモデルのアイデアに賛成するのに役立った。 Google BrainとGoogle DeepMindのチームが合併 徹底的な改革 一般利用 Google BrainとGoogle DeepMindのチームが合併 徹底的な改革 グーグルとは異なり、OpenAIは常に、世界初のAGIモデルを建設するというビジョンを公に維持していました。 「偉大な力と共に大きな責任が伴う」という言葉があります。 アイデアは単純だった:人間は超人AIの迷路の動作を解読する機会がほぼないので、もう一つ、より強力で、AIはそのより先進的な相手を観察することができるだろう Superalignmentチームの唯一のイニシアチブは、AIの安全性の調和を確保するシステムを開発することだったが、プログラムは続かなかった。前年は、OpenAIの研究者と非常に利益のための組織のトップクラスの間で共有された信頼のいくつかの程度の腐敗を引き起こし、会社内のさまざまな程度の破綻につながった。 2024年3月、OpenAIがモデルを生産するペースについての意見の相違があった。 Superalignment研究チーム 解散 Superalignment研究チーム 解散 これは、OpenAI内部の紛争が研究室の研究者の多くを引き続き導いた唯一の例ではなかったが、調和に関する議論から生じた不一致の激化は、2024年のスーパーアライニングチームの大規模な辞任の近くに起こったが、先進AIモデルの慎重な展開と商業化に関する基本的なアイデアの多くはすでに会社に広がり始めた。 元々は、AIのセキュリティ対策の重要性を強調する研究ラボとして構想され、特に、最先端のAI開発において、Anthropicは特にこの目標を達成し、今ではAI倫理の長年にわたるチャンピオンとして一般的に見なされています。 「ROGUE AI LAB ANTHROPIC」 「ROGUE AI LAB ANTHROPIC」 専門化開始 5月下旬の始まりは、私がBig Three(Anthropic、Google、DeepMind)と呼ぶものの中のアクションの大騒ぎを目の当たりにしました。 AI開発の気候で、前述したように、一般的に受け入れられた傾向は、同時に多くのタスクを実行できる一般的なLLMを作成することでした。そのようなLLMの能力が増加し、推論が進み、理論的に多くの人が達成することを夢見ていたAGI独特性に近づくでしょう。私の反論:それは理由のために独特性と呼ばれています。人工一般知能の文字通りの作成のような達成は、現在のトランスフォーマーベースのアーキテクチャの進化の結果として来ることはありませんが、このテーマは、将来の記事で徹底的に議論されるべきであるが、AlphaEvolveのようなエージェントAIツールによって加速された人間の研究からこの独特性が生じる可能性があると私は信じています。 専門化の増加 しかしながら、AI開発のこの長期の現状が発展するにつれて、LLMランキングで#1の位置を維持するための完全なAI競争が、最大の才能プール、最も洗練されたコンピューティングセンターネットワーク、および最も多くのデータを持つBig ThreeメンバーであるGoogle以外の誰にとっても持続可能になり始めていることが明らかになりました。 実際、ジェミニ2.5のユーザーテスト試験が始まってから間もなく、OpenAIは AIハードウェアの作成と製造を通じて伝統的なデバイスを革命化するために、以前のAppleのデザイナーと共に働くAIハードウェアスタートアップIoを買収するために、新しい「AIハードウェア」の作成と製造を通じて、この動きがOpenAIの潜在的な市場への戦略的投資を意味するか、またはLLM開発に焦点を当てた状態の全体的な転換を意味するか、この動きは、OpenAIにとって短期的にはAIのレースが持続可能にならない場合に、AIハードウェアの既に安定したフレームワークを活用するために、この場合、OpenAIにとってはスマートデバイスや自動ロボットであろうと主導的なAI会社と提携する可能性があると議論されています。 ツール 65億ドルの取引 ツール 65億ドルの取引 グーグルは、AIレースで急速なリーダーシップを維持しながら、サイドプロジェクトを追求するためのリソースを持っており、OpenAIは最近、それが望む場合に自分自身がダウンロードするための道を開いた。これら2つとは異なり、アントロピックは、プログラミングのためのCloudeのLLMを最適化し、最近Cloude Opus 4と新しいSoTAをリリースしたが、ベンチマークテストのリーダーシップは謙虚であるにもかかわらず、Anthropicは、世界最大のAI倫理研究機関であり、AIのセキュリティと新しいテクノロジーの社会的影響を研究する部門を維持しています。この特徴に沿って、それは「AIレースを失うことなくAIのレースに勝つ」という ある意味では、これらのAI開発目標の専門化は、近い将来、トップAI企業は、製品差別化の自然効果が発生するにつれて、互いに直接の競争相手になることをやめることを意味するだろう。 
 
 
 
 
 
 Competition breeds innovation. Even though additional resources are not being consumed by a single company in development, the lack of impetus to innovate would hinder advancements despite this fact. If Google already held an extremely stable monopoly, it would not have incentive to spend billions on additional R&D to upgrade a product already in high demand. 
 
 Companies do not share all discoveries. Assuming that all companies actually do invest into further development despite the emergence of specialization as mentioned above, AI companies have been historically reluctant to share the specifics of a model (even lobbying against proposed government legislation for 3rd party review of proprietary model information), which would practically negate any potential benefit from the “you do this, I do that” model of AI development. True open-source AI is still an ideal right now. 
 
 
 There is a heavy overlap across specialized models. For example, as video generation models get more and more convoluted, they require more complicated transformer models trained using extensive data, including the breakdown of textual prompts and inherent reasoning like that found in traditional LLMs (for example, a well-trained video-generator would inherently assume that a “wood board boat” would refer to a boat made out of wooden boards instead of a personified log boarding a ship). 
 
 This article is brought to you by Our AI, a student-founded and student-led AI Ethics organization seeking to diversify perspectives in AI beyond what is typically discussed in modern media. If you enjoyed this article, please check out our monthly publications and exclusive articles at  ! https://www.our-ai.org/ai-nexus/read この記事は、学生が設立し、学生が率いるAI倫理団体であるOur AIが、現代のメディアで一般的に議論されているものを超えてAIの視点を多様化することを目指しています。 ! https://www.our-ai.org/ai-nexus/read ...結果 質問に戻る: 答えは、私の意見では、この瞬間は、近い将来に何をすべきかを直接決定することによってAI開発の風景を変える可能性があるためです。それは、シリコンバレーでの私の接続の欠如のために、私だけが推測できるシナリオを含みますが、標準的なゲーム理論とは一切関係しています。仮説的に、GoogleとAnthropicはそれぞれのAIモデルの開発を放棄することによってAIレースから抜け出します。 彼らの立場を取るために立ち上がると、彼らがOpenAIをトランプすることができなくなり、それはほぼ確実に一晩で巨大な独占国となり、ほぼ瞬時に他の2つの会社の才能を吸い込むだろう。 しかし、このシナリオを小規模なAI会社(たとえばMistralまたはMeta)に適用すると、この会社がAIのスーパーパワーになる可能性がはるかに低いと結論づける可能性があります。 AI製品における専門化の出現は、なぜAI開発にとって重要な瞬間なのか。 メイ 2社が倒れると、残りの1社が独自に支配的になる。 前述したように、AGIの探求は、プロトタイプ製品が後者のバージョンの開発に直接貢献できる最初の例(私が知っている)であるため、製品開発における他の進化とは異なります。 グーグルのコンピューティングセンターの負荷配分枠組みを改善し、全体のパフォーマンスを約1%増加させる(これは多くはないかもしれないが、Googleのコンピューティングセンターのそれぞれが数兆バイトでデータを処理していることを考慮すると重要である)。この傾向が継続していると仮定すると(すなわち、トップAI企業は、さらなる開発を簡素化するのに役立つAIを作り続けます)、最も先進的な技術を持つAI企業は、上位のAIモデルがより多くのイノベーションを構築するのに役立つ膨大な成長パターンで終わり、反対に、このプロセスが繰り返されるにつれ、他の企業が適切な条件を満たす可能性が高くなります。 デザイン デザイン これらのすべての要因を考慮すると、AI開発のトリウムヴァイラートのいずれかがすぐにその軌跡に止まることは不可能です - すべての3つは、リスク資本、ブランド広告、そして最も重要なことは、社会の期待に深く浸透しています。

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

このオーディオは、ストーリーの元の言語で制作されています。

We're At a Fork in the Road for AI Development(AI開発のための道のり)

About Author

コメント

ラベル

この記事は

Related Stories

海を航海する: データレイクを使用した本番環境レベルの RAG アプリケーションの開発

クラウド移行を成功させるための完全ガイド: 戦略とベストプラクティス

HackerNoon Coded: HackerNoonが最も活発に活動している上位10カ国

Claude Sonnet 3.5 システムプロンプトの漏洩: 法医学的分析

海を航海する: データレイクを使用した本番環境レベルの RAG アプリケーションの開発

クラウド移行を成功させるための完全ガイド: 戦略とベストプラクティス

HackerNoon Coded: HackerNoonが最も活発に活動している上位10カ国

Claude Sonnet 3.5 システムプロンプトの漏洩: 法医学的分析

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps