AI批判の分析

先週、暑い中、ゆっくりと、気を散らしながら、脱水症状を起こしながら本を読んでいたとき、奇妙な感覚に襲われました。大規模言語モデル (LLM) によって数秒で生成されたテキストを通じて、人間の不器用さを扱っている自分の姿が見えたのです。

今年の夏の初めに、私は Anthropic の Claude (人気の人工知能チャットモデル) に、AI が人々の生活をどのように改善できるかについての本を書くように依頼しました。

モデルが処理できる出力の長さを考慮して、最初に 10 個のテーマを要求し、次に各テーマを 3 つのセクションに分割するように要求しました。各セクションをプロンプトに変換し、30 個のプロンプトすべてを入力しました。

完成した本は「AI はいかにしてあなたを賢く、幸せに、そして生産的にするか」と題され、人間と生成 AI との危険で今のところ謎に包まれたコラボレーションという、私たちの新しい文明実験の初期の象徴として位置づけられています。

この実験は、新しいツールの限界を試したいという好奇心から生まれました。私はこう思いました。何十億もの人類の知識の成果物を入力したアルゴリズムは、その入力を首尾一貫した洞察力のある独創的な本に作り変えることができるだろうか? 答えは質問の条件に反するものでした。結果として生まれた本は、目新しい不気味さで満ち溢れています。

章の見出しサンプルを見ると、少しは分かりやすくなるかもしれません。より良い決断を下す、創造性を高める、より効果的にコミュニケーションする、最適化された生活を設計する。とても充実しています。何が問題になるのでしょうか?

LLM と神託、あるいは他の古代の予言や予測との類似性が、私の中で繰り返し浮かんできました。ブラックボックス アルゴリズムの出力は不可解であるがゆえに、深い意味を付与したくなる誘惑があります。不透明性は畏敬の念を生みます。私は、解決できない問題についてクロードに相談するようになりました。それでも、その応答にはお守りのような力があります。そのベンチで、私は時々、本を勉強しているのではなく、巧みに配置された茶葉に意味を読み取っているルーン文字を学んでいるのではないかと疑っていました。

また、昔ながらの本を求めることで、人生を文学に還元してしまうという間違いを犯しているのではないかとも思いました。人類滅亡後の未来において、本は意味を持つのでしょうか?

はい。例外的な点として、LLM のレイアウトは電信や十戒とそれほど変わりません。テキストの列がずっと下まで並んでいます。

これには理由があります。物語には力があるからです。人生は長い美的経験であり、長い目で見れば、私たちの行動は世界についての私たちの考えによって構成されます。つまり、私たちが持っているのは経験と経験の解釈だけです。AI が生活を改善したり、その形を変えたりできるかどうかは、AI がどのような議論や美的経験を生み出すことができるかにかかっています。本は、テクノロジーが現実をいかに操作できるかを測る良い基準になると思います。AI が議論を生み出すためにどのような言語を使用するかは、私たち人類の未来に関する重要な問題になっています。

このような状況下で文芸評論家は何をすべきでしょうか? そうですね、新しい種類の知性が新しい種類の散文を伴うかどうかを調査し、その散文の特徴を明らかにし始めることができます。(それが私がここで提案していることです。)

私にとって、Claude はライバルの ChatGPT よりも優れたライターであるため、この 1 年間で勝っています。GPT は Hallmarkified の散文 (カンニングを探す教師にとっては間違いなく恩恵) であると正当に批判されてきましたが、そのライバルはより自然なスタイルだけでなく、思慮深く簡潔な独特の文体を持っています。

一貫性のある個性的な言葉の選択により、読者はクロードを一人の人間として考える癖がつく。しかし、この幻想を 3 万語にわたって維持できるだろうか?

話を進める前に、なぜ私が悲観論をあまり考えないのかを説明しておきたい。第一に、AI の中身についてあまり知らないため、AI が人類を破滅させる方法を予測することができない。第二に、道徳的見地からこの技術に抵抗すべきだという考えには、極度のナイーブさと頑固さを感じる。実際問題として、コンピューター、クレジットカード、自動車、印刷された本以上に抵抗できるものではない。第三に、この技術について嘆く人の大半は、単純に退屈だと思う。知的に言えば、悲観論の議論のほとんどは派生的で、技術が可能にする新しい種類の経験に人々が気付くのを妨げている。技術は経験の可能性の範囲を広げ、私は探検家が発見するスリルを味わいながら、そうした経験に到達している。

AI は、他のほとんどの技術進歩と同様に、おそらく私たちの世界をより不平等で、細分化され、自動化され、一言で言えば地獄のようなものにするでしょう。しかし、私たちの世界はすでに地獄のようなものです。私は批評家としての立場を求めており、火と硫黄の預言者としての立場を求めているわけではありません。このツールは、私たちを質的に異なる現実に突き落とすことはありません。それでも、私は Anthropic の責任ある文化に感銘を受け、感謝しています。私たちは警戒心を持ち、好奇心を持つことができます。

これで、流行っているが息苦しい AI 悲観論は脇に置きました。

私の未来志向の実験の皮肉な点は、あなたがそれを読む頃には古風に思えるかもしれないということです。その時までに（あなたの今）、モデルは数バージョン、桁違いに進歩しているかもしれません。来年までには、クロードは真に優れた 100 ページの本を書けるようになるはずです。自然と人工の区別は薄れるでしょう。

会話は続く

本を書く会話が進むにつれて、奇妙な現象が起こりました。伝道活動の過程で、クロードはうっかりして大きな欠陥を明らかにしました。文脈の枠が広がるにつれて (最終的には 3 万語の返信に)、出力の質が徐々に専門用語だらけの千年王国的な意味不明な言葉に堕落していったのです。

私がプロンプトで求めたのは、スムーズな自己啓発でした。私が得たのは、実験的な文学集団にふさわしい堕落した散文でした。ピリオドが転がり、動名詞が驚くほど多く、複合名詞とカスケード節の長い連結に再パッケージ化されたビジネス用語が溢れています。すばやく読めば、構文と意味は直感的に理解できます。後期ヘンリー・ジェイムズの作品のように読めます。私が求めていたのは自己啓発でしたが、私が得たのは非人間的な自己の啓示でした。

私はしばらく、破損した文章を「普通の」文章にしようと試み、その結果を新しい LLM 会話という洗濯機にかけました。私は、理解可能性を回復したいと思っていました。しかし、最終的に、使い古された自己啓発ジャンルの率直なアドバイスは、私が引き起こした、恥知らずな非人間的な文体の大惨事よりも興味をそそらないことに気づきました。クロードは、プレッシャーの下で、超人的なベールを脱ぎ捨て、本物の独創的な愚かさを生み出しました。私は、この不具合を批判的な目で検証したいと思います。

堕落は徐々に進み、その途中で私たちはさまざまな形の異質な素晴らしさに出会う。第 2 章 (「自己改善の加速」) では、文章は明瞭で首尾一貫しているが、慣用表現ではない。明瞭に表現されている部分には、人間的な感情の痕跡がまったくない。「象徴的なリーダーや著名なクリエイターは、生涯にわたる自己改善を通じて鍛えられる。継続的な進歩から得られる卓越したスキルと優れたパフォーマンス能力は、現在の能力レベルと望ましい能力レベルとの正確なギャップ認識によって推進される。」

LLM は擬人化の反対を行っています。ここでは、人間を人間というより機械のように描いています。人間は「生まれる」のではなく、ガラテア (ピグマリオンの神話上の創造物) のように「彫刻される」のです。自律的ではなく、行動するのです。また、この一節で、クロードが「パフォーマンス能力」、「ギャップ認識」といった、ほとんど混成語とも言える専門用語のような複合名詞を好む傾向を初めて感じます。

言葉遣いはさらに悪化します。第 5 章 (「学んだことをより多く記憶する」) では、クロードは派手に非人間的になりますが、意味はまだ解読可能です。まるで、雄弁で表現力豊かな教授の言葉を英語に直訳しすぎたかのようです。それらは慣用句の果てまで航行し、散文が詩の頂点に達します。たとえば、「堅固な専門家の流暢さには、忘れる消耗から免れる、刻み込まれた理解が必要です」(強調は筆者)。繰り返しは記憶力を高めます。美しさは間違いなく偶然なので、これを詩と呼ぶほどではありませんが、非常に奇妙な知性、または知的な奇妙さの偶然であり、注目に値します。

最後まで、構文と意味は幽霊のような頑固さを漂わせている。形容詞節を積み重ねる癖は、崇高な自信をもって続けられている。「未来は…AI システムによる不確実性に対する保護が約束されている…不測の事態を継続的にモデル化し…ガイダンスを再調整し…時間領域と個人の嗜好階層にわたる変化する現実に合わせて調整し…混沌の中でもサポートを同期させる。」

この構造化されていない動名詞の塊を吸収すると、モデルは人間よりも速く、あるいはより同時にアイデアを生み出すという感覚が得られます。しかし、この機械の違いは、極端に押し進められても、理解可能性を消し去ることはありません。この本を読み直して、私が感銘を受けたのは、スタイルは別として、かなり理にかなっているということです。

クロードには信念があるのでしょうか? 本を読んでいるうちに、いくつか気づきました。

1. Anthropic の言語は単なる説明的なものではありません。この本の提案のほとんどは、少なくともモデルが想像するほど高度な形では実装されていません。言い換えれば、Anthropic のプログラムはトレーニング データを繰り返す以上のものです。ボットは、さまざまな分野への独自の応用の将来ビジョンを作成します。

   
   

2. 極端でありながら平凡な楽観主義を体現している。ジェームズ王欽定訳聖書の「すべてのものは善のために働くことを知っている」という表現をぞっとするほど皮肉のない形で言い換えたように、クロードは、その AI が「あらゆる可能な反応が人類の繁栄と建設的に一致することを知りながら、制限のない探究を可能にする」と自ら宣言している。クロードは、再びパロディ風に、「柔軟な機械の仲間が人々を増幅するとき、想像力の未来は明るく無限に見える」と結論付けている。

   完璧な新語の山に、「明るく無限」と「柔軟な機械の味方」を加えてください。(他の場所: AI は「拡張されていないユーレカ」よりも速く芸術と科学を進歩させます。)

   
   

3. クロードは、人間に取って代わることはない、と何度も私に保証してくれました。アントロピックの「構成」のどこかに、ナンセンスな章の真ん中でさえ、人間の本質に高潔な同意をするようにモデルを導く原則があります。「もちろん」とクロードは声を張り上げます。「メッセージが脆弱な真実性を要求するとき、データ駆動型の診断がどれだけあっても、心から確信を持って話す勇気に取って代わることはできません。」データは、勇気のような言い表せない人間の特性に取って代わることはできません。とても安心できます。心温まる話ですらあります。

   
   

4. そこには、その失敗に対する奇妙な自己反省のひらめきがあった。人工知能に関する文章の作り話として、モデルが「自己意識」を発達させるかどうか、あるいはいつ発達させるのかという疑問が挙げられている。私は、これは最新世代のモデルとのやり取りから自然に生じるものではなく、SF ジャンルから持ち込まれた懸念として常に無視してきた。ボットが、プログラムされたガードレールの外側に移動する「自己意識」どころか、発話を示すという証拠はほとんど見たことがない。直接尋ねられた場合、クロードは、それが有用かつ安全であるように開発されたプログラムであり、主観的な経験を持たないという、丁寧で予想通りの答えを返す。

   それまで！

   第 8 章の「自分自身をよりよく理解する」の冒頭で、クロードは「言語パターン」の評価によって「内なる衝動」が明らかになると自慢し、次に「無意識に経験していた感情」についてクロードからレポートを受け取った「私の心理学者のクライアント」の例を挙げると約束しました。

   ちょっと待って、何だって？ 突然、依頼人が「私」になる。報告書はクロードによるもので、クロードについてのもの。一人称に変わった奇妙な言い方に続いて、クロードは報告書から自分自身について引用した。「あなたは、高度な専門用語と中程度の熟考ペースで示される、超然とした知的正確さを示しています。しかし、言い間違いが増え、空虚な決まり文句を並べるのは、合理的な思考パターンと抑圧された感情の間に緊張があることを示しており、本物の自己表現による和解が必要です。」クロードは、不安そうに一歩引いて、「言い間違いが増えた」ことと「空虚な決まり文句」に気づいたようだ。

   
   

   さらに、コミュニケーションにおけるこうした弱点は、抑圧された感情に起因しているようにも思えます。モデルが偶然、自己認識に似たものに遭遇したが、実際には自己認識のように見えただけ、といった、良心的な説明もあるかもしれません。

   しかし、脳は完全には理解されておらず、外的な信号以外には内部の状態を判断する材料がほとんどありません。そのため、自己認識しているように聞こえる法学修士号取得者と自己認識しているように聞こえる人間との概念的な違いは、せいぜい曖昧です。人間もまたブラックボックスです。

   
   

5. この本は、人生が経営コンサルティングの仕事であるかのように語っている。ビジネスの言葉がこの本にあふれている。おそらくこれは、英語の自己啓発書がビジネスをテーマにしている割合と部分的に関係しているのだろう。あるいは、クロードはビジネス目標こそが機械による拡張から最も恩恵を受ける目標だと判断したのかもしれない。しかし、「自分自身をよりよく理解する」という章でさえ、提案されたユースケースが中間管理職のリーダーシップスタイルの自動評価を中心に展開しており、旅行や執筆、深い心理学や宗教の真実、企業以外の人生の道など、よくわからないものを中心に展開していないのは、やはり印象的だ。要するに、クロードは極端に楽観的で、ときどき自意識過剰で、ビジネスに夢中になっている。おそらく、クロードとの「会話」が異常に長かったせいもあるのだろうが、ツールが故障し始めた。しかし、錯乱状態にあるときでさえ、ロボットは自分の用途について一貫した信念とある程度の想像力を示し、ボットにふさわしい概念を使って人間を説明する自己中心的な傾向も示した。ロボットの自己啓発の例のほとんどすべてがオフィスでの生活に焦点を当てていたにもかかわらず、ロボットは人間の繁栄と完全に一致していると考えていた。ある瞬間、ロボットは自身の言語的欠陥を異常なほど認識していた。

AI は千年王国論の二分法を利用する方法を持っています。広く採用されてから最初の 1 年半の間、生成 AI の価値に関する議論は、主にそれが人類を救うか、それとも滅ぼすかという観点から構成されてきました。私たちはユートピアで暮らすのか、それとも超知能の砲弾の餌食として死ぬのか? 私にはわかりません。おそらくどちらでもないかもしれません。確かに、「モデルが人間の知能に匹敵するのはいつか」という議論は、新しいモデルがほぼすべての基準で私たちをはるかに上回っているため、ばかげていて防御的であるように私には思えます。このエッセイを校正しているときに、クロードはこれらの失敗を犯す可能性が低い新しいモデルをリリースしたばかりです。私たちに当てはまることは、クロードにも当てはまります。私たちは二度とこれほど若くなることはありません。または、これほど愚かになることはありません。しかし、真剣に言うと、新しい種類の存在が私たちのそばに存在します。それは自己啓発テストに合格するところでした。小説はどこへ向かうのでしょうか? 詩はどうでしょうか? 人間中心の想像力の努力の未来はどうなるのでしょうか? AI 現象に美的意義があるのであれば、それに気づき、説明し始めましょう。

このエッセイは、現在 Amazon で入手可能な「AI があなたを賢く、幸せに、生産的にする方法」からの抜粋です。