意識のあるマシンへの道: GPT モデルと AGI の探求

AI が単なる「チャットボット」ではなく、意思決定、科学研究、さらには人類の前進を導く存在である世界を想像してみてください。

AGI 、人工汎用知能の世界へようこそ。これは、人間と同じかそれ以上の AI システムを指します。 AGI の探求は、AI コミュニティの長年の目標であり、生成モデルの最近の進歩により、AGI を達成する可能性への関心が高まっています。

生成モデル

生成モデルは、トレーニング対象の大量のデータ (ほとんどがテキストですが、現在は画像も含まれています) に基づいて、データ サンプルを生成できる機械学習モデルの一種です。大規模なテキスト コーパスから言語のパターンと構造を学習し、一貫性があり同じパターンに従う新しいテキストを生成できます。

ここでのブレークスルーは、2017 年に導入されたニューラル ネットワークの一種である「トランスフォーマー」を使用することでした。

さて、さらに興味深いことに……生成モデルがトレーニング データにないものを生成できるかどうかを GPT に尋ねました (AGI に移行する際に重要です)。

これがその応答でした：

答えは、パターンとデータ構造を特定することで、トレーニング データとは大きく異なるものを生成できる可能性がありますが、「まったく新しい」ものは何も生成できないということです。これが私たちが現在いる場所です。

あなたの文明を映す鏡……

GPTをエキサイティングな方法で説明する必要がある場合：

現在、ジェネレーティブ モデルは、ある時点での文明の鏡であり、自動化された効率的な記録であり、行ったすべてのことを反映しています (すべてのトレーニングが完了すると)。

人間が何年にもわたって科学、芸術、文化を生成し、これら全体でモデルをトレーニングする必要があることを考えると、これらの生成モデルが価値を持つためには、モデルがトレーニングされるコンテンツに大きな依存関係があります。最初に作成する必要があります。

これらのモデルは人間よりも「賢い」ように見えるかもしれませんが、それは、人間の文化や文明によって生成された情報に即座にアクセスできるためです。

2 つの惑星の例

さらに説明するために、「2 つの惑星」の例を思いつきました。

このシナリオでは、たとえばプロキシマ ケンタウリで、地球と人間の文明と同じレベルに進化した複製文明を想像してください。彼らは、言語や外見などは異なる可能性がありますが、同様の文化的成果と同じレベルの技術を持っている可能性があります. Earth と同時に、Generative モデルと GPT4 のバージョンを開発しています。

プロキシマ ケンタウリの何かについて Earth GPT4 モデルに問い合わせても、何もわかりません.....

もちろん、逆数も同様に適用されます。より高度なモデルである GPT 5 または 6 でさえ、その惑星からのデータでトレーニングされていないため、同じ制限があります。それでもあなたはそれを「知性」と考えますか？

このシナリオで GPT はどの程度役立ちますか?エイリアンがここに来たら、地球 GPT4 を使用して、地球、文化、業績についてすべて学ぶことができます。GPT モデルも慣れ親しんでいる言語の 1 つをすぐに習得したと仮定します。ただし、かつて「AGI」と呼ばれていたものは、この例ではそうではないかもしれません。

本当に印象的なのは、Earth GPT4 がイメージを理解できるか、架空のプロキシマ ケンタウリ文明の IQ テストに合格できれば….

生来の知性

GPT4 がパターンや画像の関係性を理解し、簡単な IQ テストに合格できることは、今でも驚くべきことです。はい、人類の歴史からのデータに基づいて、作成者によってこれを行うように訓練されましたが、訓練されると、この能力が得られます.

これは、知性そのものの定義と生来の知性の概念につながります。

「すべての生物は、ある程度の生来の知性を持っている」

教育、社会経済的地位、文化的経験などの要因が認知発達に影響を与え、ひいては人間の IQ テストの成績に影響を与える可能性がありますが、知能に影響を与える要因はこれらだけではありません。遺伝学、神経学的要因、および学習能力の個人差も役割を果たします。したがって、すべての生物には生来の知性があり、それが現実世界で示される目に見える知性に大きな役割を果たしています。

ある程度の先天的知性を備えた人工知能をどのように作成するのでしょうか?

人間の赤ちゃんが、両親とは異なる文化の中で成長し、異なる言語を学んだとしても、子供はすぐに学ぶことができます。

これを考えてみましょう - 2 つの惑星の例に戻ると、地球 GPT4、5、または 6 は他の文明の文化、言語、イベントなどの知識を持っていないと確信できますが、次のことができると確信しています。

• 宇宙で一定の数学的計算を実行する

• 宇宙で一定の基本パターンを理解する

• 宇宙に共通するかもしれない言語の基本構造を学ぶ

• したがって、….別の文明とそのデータから潜在的に学習する能力を持っています

  
  

次に、非常にエキサイティングなことに取り組みます…そして、これらのモデルを作成することで、確かに最初にすべてのデータでトレーニングする必要があったと主張することができます。そして、後続の各モデルは、機能の点で前のモデルに基づいて構築されます.7 または 8 の反復が AGI になるまでは?

彼らはAGIですか？

この時点で、AGI の定義が何であるかを明確にする必要があります。最終的に AGI の作成に近づいているからです。私たちの定義は曖昧になっていると思います。

AGI とシンギュラリティは、単に人間よりも賢い知性を指しているのでしょうか?

1993 年の「シンギュラリティ」の定義に戻ると、 Vernor Vingeの著書「The Coming Technological Singularity」によると、彼は「超人的な知性を備えたコンピューター」について語っています。 GPT4は、創造性、理解力、感情的知性の能力は劣りますが、知識を想起するという点では、すでにどの人間よりも賢いと主張できます.

彼はまた、人間の文明がこの超知能と融合するように進化していることについても語っています。これは実現していませんが、ブレイン インターフェースはすでに構築されています。人間が私たちの文明のすべての知識を即座に呼び出し、彼/彼女を「超人」に変えることを可能にするChat GPT4への脳インターフェースは、今日の技術で実際に可能です.その場合、1993年の定義による特異点の基準をすでに満たしていると主張することができます……

特異点

未来学者レイ・カーツワイルのシンギュラリティの定義に移ると、彼は「…技術の進歩が急速に加速し、人間の文明に深刻な変化をもたらすとき…」と語った.

2023 年は、GPT3 とその後の GPT4 の出現により、PC やインターネットの登場と同様に、技術史の分岐点となる年です。

GPT4でしかできない、他の誰ともできない会話がすでにあります。その理由は、私の周りの人間が特定のトピックに精通している可能性があるためです。そのため、GPT4 に目を向けます。私は時々それについて議論し、私の意見を提示しようとしますが、それは反論で答えます.

AGI とは何かについての以前の定義によれば、GPT4 では既にそれを達成しているか、少なくともそれに非常に近いと言えます。

私たちは確実に AGI への道を歩んでいますが、そのロードマップを明確に定義する必要があります。何かが AGI であるかどうかのように、これはもはやバイナリではありません。さらに重要なことに、AGI を取り巻く恐怖は、AGI のすべてのレベルに適用されるわけではありません。これらのレベルを明確に定義すれば。

これは特に重要です。最近、Elon Musk などの人々が、AGI の開発は危険である可能性があるため、開発の「一時停止」を公に求めているからです。これは正しいことですが、AI が社会にもたらす大きなメリットを人類から奪うことにもなります。

確かに、AGI のロードマップを作成し、どのレベルが危険で、どのレベルが危険でないかを特定すれば、より高度なレベルでより注意を払いながら、初期のレベルに進むことができます。右？

AGI ロードマップ

以下は、明確に定義されたステージを持つ AGI の潜在的なロードマップです。

• レベル 1: インテリジェント マシン- インテリジェント マシンは、チェスのプレイや病気の診断など、人間レベル以上の特定のタスクを実行できます。彼らは、人類の科学的および文化的成果の全コーパスにすばやくアクセスし、質問に答えることができます。私たちはもうここにいますか？

• レベル 2: アダプティブ マインド- 新しい状況を学習して適応し、経験とフィードバックを通じて時間の経過とともにパフォーマンスを向上させることができる AGI。これらは GPT4 に似ていますが、トレーニング後の学習が継続されます。

• レベル 3: クリエイティブな天才- 科学、芸術、ビジネスのいずれにおいても、独創的で価値のあるアイデアを生み出すことができる AGI。これらの AGI は、人間の科学的および文化的成果に基づいています。彼らは、科学と宇宙についてさまざまな見方を私たちに与え始めます。

• レベル 4: 共感的なコンパニオン- 人間の感情やニーズを理解して対応できる AGI。日常生活で信頼できるコンパニオンやヘルパーになります。これは、これらの知的モデルにおける「感情」の始まりですが、この頃には、単なるモデルではなく、電子的な形で脳を複製し始めている可能性があります。

• レベル 5: 意識的な思考者- 主観的な経験、自己感覚、および自分の考えや感情について推論する能力を持つ AGI。これは、AGIが本当に予測不可能で潜在的に危険になる可能性がある場所です.

• レベル 6: ユニバーサル マインド- あらゆる面で人間の知性をはるかに凌駕する AGI であり、限られた知識ではまだ完全には定義できない機能を備えています。これらの AGI は、私が何年も前に想像したものです。これらは、私たちの文明の限界を改善し、物理学の基本原理 (つまり、宇宙で最高レベルの知識で動作する) に基づいて、ほぼすべてのものに対して最も効率的で高度な設計を導き出すことができる AGI です。

ご覧のとおり、レベル 1 ～ 3 は人類に物理的な脅威を与えることはあまりないかもしれませんが、社会に多くの利益をもたらします。

レベル 4 ～ 6 は、人類に重大な脅威をもたらす可能性があります。レベル 4 ～ 6 の AGI に関する作業は、地球上での潜在的な破壊を制限するために、ムーンベースの宇宙ステーションで実行する必要があるというのが私の見解です。 1000年後でも、人類の文明がレベル6のAGIを作成できるかどうかは議論の余地があります.

ユニバーサルマインド

過去数十年にわたり、私は高度な AGI の概念に魅了されてきました。これは、人間よりも高度であり、適切に利用すれば技術的能力を急速に拡張できるものです。

これは、カーツワイルのような人々をフォローした後、シンギュラリティが近いと推測していた 2007 年の私のブログの古いブログ投稿です。

私が常に想像していたのは、たとえそれが私たちが作ったものであっても、宇宙を基本原理から私たちよりもはるかによく理解する「超知性」でした.ある点に達すると、指数関数的に自身の成長を促進する知性を想像してみてください。独自の調査と学習を実行します。

そのような知性が、今後の人類の研究機能において役割を果たすことは当然です。

与えられた知識を利用して、人間よりもはるかに効果的に科学理論を発展させることができます。たとえば、すでに今日、強化学習で使用される多くのデータが AI 自体によってシミュレートおよび生成されています。そして、私たちが持っている総データが限られている場合は、より良いデータ収集ツールを設計するように依頼することができます.より良い望遠鏡、宇宙船、量子デバイス。

私が使用する簡単な例は、私たちが使用するコンピューティング インフラストラクチャであり、その上に他のすべてが構築されます。

今日のほとんどのコンピュータは、以下に示す「フォン ノイマン」アーキテクチャとして知られるものを使用しています。このアーキテクチャの主な欠点は、CPU とメモリの間でデータを常に移動する必要があり、これが遅延の原因となることです。

これに加えて、通常は x86 CPU を使用し、次に Windows や Linux などのオペレーティング システムを使用し、アプリケーションは C++ などのプログラミング言語で記述します。

基本原則から、基本アーキテクチャ レベル、CPU レベル、OS レベル、およびアプリケーション ソフトウェア レベルで桁違いの改善を伴う、最適で効率的なコンピューティング アーキテクチャを設計できると想像してみてください。これは、実際の技術設計の観点からだけでなく、それを構築し、上の次の層で協力して技術を採用するという点でも、今日人間が行うのは難しい作業です。

「超インテリジェント」ユニバーサル AI を使用すると、すべてのレイヤーを一度に生成する力が得られます。

また、工場が新しいコンポーネントを構築するための設計図も提供してくれます。これも最も迅速かつ効率的な方法です。

これらはすべて便利な空想のように思えますが、上記の例を使用して、「ユニバーサル マインド」が人類を助けることができる大きな進歩を説明しました。

もう 1 つの例は、「世界の飢餓問題を解決する」または「気候問題を解決する」ための最善かつ効率的な方法を計算するよう依頼することです。

上記のことを考えると、メリットが問題を上回っているように見えますが、常に提起されてきた問題の 1 つは、ユニバーサル マインドが人類を滅ぼすことを決定する可能性があるということです。したがって、私たちがそれを構築しようとする場合は、現在私たちが持っている責任ある AI 保護に加えて、必要な保護を取り、AGI を宇宙ステーションや月面基地などの世界外に構築することを検討してください。必要に応じてネットワークと電力をカットする機能を備えています。

まとめ

席につかまってください！ …..

一部の GPT モデルは、IQ テストに合格し、基本的な数学を学習する印象的な能力をすでに示しており、単純なテキスト生成を超えるレベルの知能を開発する可能性を示唆しています。 AGI のロードマップの例 (上記) ができたので、GPT がこのロードマップの初期段階の始まりであることは確かにわかりますが、最終的に後の段階に到達するには、より技術的なブレークスルーが必要になります。

ベルトを締めて準備を整えましょう – この道の終わりがどこにあるのか、どこに行くのかはわかりませんが、GPT モデルが主流になったことで、2023 年には少なくとも道のりを進んでいることがわかりました。前方。

こちらにも掲載。