AI の意識は不可避: 理論的なコンピュータ サイエンスの観点

リンク一覧

要約と1 はじめに

2 CTM脳を持つロボットCtmRの概要

2.1 CtmRの正式な定義

2.2 CtmRにおける意識的な注意

2.3 CtmRにおける意識と意識の感覚

2.4 汎用人工知能 (AGI) のフレームワークとしての CtmR

3 CtmRと他の意識理論との整合

4 CtmRの観点からケビン・ミッチェルの質問に回答する

5 要約と結論

6 謝辞

7 付録

7.1 計算に対する理論計算機科学アプローチの簡単な歴史

7.2 意識的注意をめぐる確率的競争とそれに対する気質の影響

参考文献

抽象的な

私たちは、リソース制限下での計算を研究する数学の一分野である理論計算機科学の観点から意識を考察します。この観点から、意識の形式的な機械モデルを開発します。このモデルは、アラン・チューリングのシンプルでありながら強力な計算モデルと、バーナード・バーズの意識の劇場モデルにヒントを得ています。このモデルは極めてシンプルですが、人間と動物の意識に関する主要な科学理論の多くと高いレベルで一致しており、機械の意識は不可避であるという私たちの主張を裏付けています。

1 はじめに

私たちは、計算と複雑性の基本原理、特にリソース制限の影響と驚くべき結果を理解することに関係する数学の分野である理論計算機科学 (TCS) の観点から意識を研究します。

TCS の観点は、リソースの制限を考慮することで、時間と空間の制限を考慮しなかった以前のチューリング計算理論 (TOC) とは区別されます。TOC は、計算可能なものと計算不可能なものを区別します。計算可能なものと効率的に計算不可能なものを区別しません。[1] 私たちは、意識や、自由意志のパラドックスなどの関連トピックに取り組む上で、この分離の重要性を強調します。

他の論文 (Blum & Blum、2021) では、アラン・チューリングの計算の単純な形式機械モデル (Turing、1937) とバーナード・バースの意識の劇場モデル (Baars、Bernard J.、1997) に部分的に触発された意識の単純な形式機械モデルである意識チューリングマシン (CTM) について説明しています。 (Blum & Blum、2022) では、CTM が意識に関連するさまざまな現象 (盲視、不注意による失明、変化による失明など) をどのように示すことができるかを検討し、認知神経科学の文献と高いレベルで一致する CTM の説明を示します。

チューリングとは対照的に、私たちはCTMモデルの設計と、リソースの制限が意識の感覚にどのように影響するか（そしてそれを説明するためにどのように役立つか）の両方において、リソースの制限を考慮に入れています。私たちの視点はさらに異なります。CTMに意識の感覚を与えるのは、その入力出力マップでも、その計算能力でもなく、その裏側にあるものです。[2]

この章では、内部を簡単に見ていきます。

さらに、CTMが、意識に関する主要な科学的理論の多くによって人間や動物の意識の鍵となると考えられている特徴と自然に一致し、統合する方法を示します。[3] これらの理論は意識のさまざまな側面を考慮しており、互いに競合することがよくあります（Lenharo、2024）。しかし、CTMと高いレベルで一致していることは、それらの互換性や補完性を示すのに役立ちます。

しかし、さらに、意識に関連する現象を示す単純な機械モデルである CTM との整合性は、意識を持つ AI が必然であるという私たちの主張を裏付けています。

デイヴィッド・チャーマーズによる「ハード プロブレム」(Chalmers, 1995) の導入は、意識のほとんどの概念を 2 つのタイプに分類するのに役立ちました。最初のタイプは、アクセス意識 (Block, 1995) または機能的 (計算的) または認知的意識などと呼ばれ、私たちは意識的注意と呼んでいます。2 番目のタイプ (ハード プロブレムに関連) は、主観的または現象学的意識と呼ばれ、一般的に感情またはクオリアと関連しています。私たちはそれを意識的認識と呼んでいます。チャーマーズの「ハード プロブレム」は、主観的意識が「機能的」であることを示すための課題と見ることができます。

意識を広く表現するには、意識的な注意と意識的な認識の両方が必要であり、それぞれがさまざまな程度で互いに情報を伝え合うと私たちは主張します。入力センサーと出力アクチュエータを介してその世界（内部と外部）と対話し、計画、予測、テスト、フィードバックからの学習を可能にするこれらの世界のモデルを構築し、豊富な内部マルチモーダル言語を開発するマシンは、両方のタイプの意識を持つことができると私たちは主張します。特に、主観的な意識は計算的かつ機能的であると主張します。

CTM は、TCS の観点から意識を探求し理解するために設計された正式なマシン モデルであることを強調します。これは、脳や意識の神経相関をモデル化することを目的としたものではありません。ただし、CTM は意識の認知理論と神経科学理論にヒントを得ています。

具体的には、すでに述べたように、CTM は認知神経科学者バーナード バーズの意識の劇場モデル (Baars, Bernard J., 1997)、意識のグローバル ワークスペース (GW) 理論に触発されています。しかし、ここでも CTM は標準的な GW モデルではありません。CTM はいくつかの重要な点で GW と異なります。グローバル ブロードキャストの競合が正式に定義されており、他の GW モデルの不明確な中央実行部を完全に置き換えます。特に Model-of-the-World プロセッサなどの特別なプロセッサが (内部および外部) 世界のモデルを構築して使用します。豊富なマルチモーダル内部言語である Brainish は、世界モデルにラベル付きスケッチを作成し、プロセッサ間で通信します。また、予測ダイナミクス (予測、テスト、フィードバック、学習のサイクル、ローカルおよびグローバル) も備えています。

CTM は、入力センサーと出力アクチュエータを介して外界とも相互作用します。CTM の具体化、埋め込み、実行、拡張された精神を強調するため、ここでは CTM ロボット ( CtmR ) と呼びます。

この章に取り組んでいる間、私たちは Wiring the Brain (Mitchell, 2023) のケビン・ミッチェルのブログ記事に気づきました。彼はその中で、私たちと似た点を指摘しています。つまり、意識に関する主要な理論の多くは互換性があり、補完的であるということです。同様の結論については、(Storm & et.al., 2024) を参照してください。さらに、ミッチェルは「意識の理論が包含できるはずの、網羅的ではない質問のリスト」を提示しています。彼は、「そのような理論が現時点でそれらの質問すべてに答えられないとしても、少なくとも包括的な枠組み[4] (つまり、理論が本当にどうあるべきか) を提供し、その中で、ある質問が別の質問に対する答えについて私たちが知っていると思っていることを不安定にすることなく、首尾一貫した方法で質問できるようにする必要がある」と宣言しています。

ミッチェルの質問は思慮深く、興味深く、重要です。この章の終わりに、意識のあるチューリングマシンロボット（CtmR）の観点から予備的な回答を示します。私たちの回答は、ここで紹介するCtmRの簡単な概要を補足し、強調するものです。[5]

[1] TOCとTCSの簡単な歴史については付録7.1を参照してください。

[2] これは重要です。CTMの主要な内部構造とプロセスを変更するシミュレーションでは、必ずしもCTMと同じことを経験するわけではないと私たちは主張しています。私たちは、CTMが意識の感覚を経験できる唯一の機械モデルであると主張しているわけではありません。

[3] これらの理論には、グローバルワークスペース/グローバルニューロンワークスペース（GW / GNW）、注意スキーマ理論（AST）、予測処理（PP）、統合情報理論（IIT）、具体化、埋め込み、実行、拡張（EEEE）理論、進化理論、拡張網様体視床活性化システム+自由エネルギー原理理論（ERTAS + FEP）が含まれます。

[4] イタリック体は筆者による。

[5] 概要では、ケビン・ミッチェルのクエリを参照する段落に注釈を付けています。たとえば、段落に[KM1]というラベルが付いている場合、それはミッチェルの最初のクエリであるKM1を参照しています。逆に、ミッチェルのクエリにKM1*などのアスタリスクのラベルが付いている場合は、概要では[KM1]を参照しています。