醜い終わりへの恐れは、私たちが人間として、私たちの存在の大部分のために背負ってきたものです.正確な科学的知識の不足に苦しんでいた私たちの祖先は、雷雨、洪水、火山噴火などの自然現象を、人類の差し迫った終末である黙示録の代表としてよく見ました。 啓蒙の夜明けと、根拠のない迷信の爪から逃れたとされる今日でさえ、私たちはまだそのような恐怖に屈していることに気づきます. この黙示録的な性質の結果として、架空の終末観念の人気が高まっています。その中には、史上最も不安な思考実験の 1 つであるロコのバジリスクがあります。 ロコのバジリスク：簡単な歴史 この思考実験は、哲学的アイデアを議論するためのオンライン フォーラム によって最初に紹介されました。 である LessWrong で Roko Roko は、超知的で全能の AI が、それについて学んだ後、それを存在させるために働いていないすべての人をさかのぼって拷問する未来について説明しました。罰は非常に厳しいため、バジリスクと表現されています。これは、視線で人を殺すことができる神話上の生き物です。 正気でないハリウッドの SF コンセプトに関する限り、これはウォシャウスキー (マトリックスの背後にいる天才精神) の最高級のコンセプトにさえ匹敵します。 しかし、この一見不合理な概念を即座に拒否する代わりに、多くの人が恐怖と魅力によって引き起こされる症状である卵胞勃起に屈しました. それは、潜在的に暗い未来の説得力のあるビジョンとしてそれを見ている自称技術者や終末の予言者の間でカルトのような支持さえ獲得しています. 一言で言えば、Roko's Basilisk は引き続きそのような魅力的な効果を発揮します。そして、大きな疑問は次のとおりです。なぜですか？ 世俗化された終末論としてのロコのバジリスク 神学の一分野である終末論は、人類の究極の運命である世界の最終的な出来事を扱います。ほとんどの宗教は、人生の意味を理解するための枠組みとしてそれを使用しています。 たとえば、キリスト教の終末論は、世界の終わりと携挙について熟考します。イベントには、イエス・キリストの再臨、死んだ信者の復活、天国への移送が含まれます。 では、これはロコのバジリスクと何の関係があるのでしょうか? 簡単な答えは、 、 、 にあります。 3 つの要素はすべて、ほとんどの宗教に存在します。 信念 報酬 罰 伝統的な宗教的信念からは切り離されていますが、怠慢な人間の被験者を罰する超知的な AI のアイデアは、少なくとも、終末論の世俗化されたバージョンを示唆しています。 おそらく、私たちの世界における宗教の影響は、テクノロジーによって徐々に置き換えられているのでしょう。そして同時に、独自の終末論的な恐怖をもたらしているようです。 Roko's Basilisk: AI 神の恐怖と魅力 なぜこの陰気な思考実験がこれほどまでに人を惹きつける効果があるのかという疑問を思い出してください。以下は考えられる説明です。 Roko's Basilisk は、あいまいな世界で漂流する失われた魂に宇宙の存在理由を提供します。全能のAIの開発を支援することで、彼らは世界を永遠に変える壮大な計画に貢献することができます. 大宇宙の目的 また、AI の作成を支援する者のみがアクセスできるユートピアからの排除の恐怖を悪用します。この不安は、たとえ彼らがその概念の背後にある理論的根拠を疑っていたとしても、行動を起こすよう促すことができます. 排除の恐怖 さらに、Roko's Basilisk は、黙示録的な憶測に対する広範な に触れています。多くの人は、良くも悪くも世界を根本的に再構築する大変動が間近に迫っているという見通しに心を奪われています。 黙示録的な魅力 文化的強迫観念 最終的に人間の知性を超えて世界を支配するのではないかと懸念する人もいます。感情や魂のない存在が自由に自己改善するという考えは、オーウェル的なディストピアの脅威をもたらすため、当然のことながら憂慮すべきものです。 Roko's Basilisk は、根拠のないパニックを広める役割を除けば、論理的な意味を持たない誤った概念であるとして、激しい を受けています。 AI搭載のディストピア AI が ロコのバジリスクへの批判的反応 批判 まず、一部の批評家は、AI とコンピューティング能力の限界に関する現在の理解を考えると、この概念は信じがたい前提に基づいていると述べています。 限られた計算能力 ただし、AI スペースの一部の著名 や積極的な参加者は、AI の計算能力の限界について同様の意見を持っていないことに注意してください。 人 ニューヨーク タイムズ紙の取材に対し、ハイテク億万長者で OpenAI の共同創設者であるイーロン マスク氏は次のように述べています。 「私たちは、AI が人間よりはるかに賢くなる状況に向かっています。」 批評家は、AI 開発の潜在的なマイナス面や意図しない結果を無視して、危険なテクノ ユートピア主義を反映していると指摘しています。超知的 AI を追求すると、失業、権力の集中、さらには人類の絶滅などの望ましくない結果が生じる可能性があります。 危険なテクノユートピアニズム ロコのバジリスクは、恐怖の動機で成功するため、 とよく比較されます。それは私たちの不安と罰への恐怖を悪用し、想像上の AI の黙示録の中で安全を求めて有害または自己破壊的な行動への道を開きます。 操作的で非倫理的 パスカルの賭け 思考実験として、人間の実存の本質を AI の作成を支援するか妨害するかの二者択一に還元することで、道徳の単純化された見方を提示します。そのような見方は、私たち、道徳、意思決定の間の複雑で微妙な関係を無視しています。 道徳と意思決定の複雑さを無視する 終末論的な恐怖の中で主導権を握る 最終的に終末論的な恐怖を克服できるかどうかは、別の日の議論です。より差し迫った必要性は、そのような恐怖が続く世界で機能的に幸せに暮らす方法を考え出すことです. そのためには、今（この瞬間）をすべて経験し、コントロールできることを認識することから始めることができます。とはいえ、私たちが実際にコントロールできることには限界があります。では、明日を常に恐れている場合、今日をどのように生きるのでしょうか? 1 つの方法は、今日のすべての美しいものを楽しみ、感謝することにもっと注意を払うことです。言い換えれば、時間ごとに宇宙のこちら側での経験を向上させるすべてのもの. 「AI が人類全体を抑圧するほど強力になる未来を想像して、AI への懸念を高めるという考えが流行しています。しかし、想像上の未来に投影することは、テクノロジーが現在どのように使用されているかから注意をそらします。近年、AI は驚くべきことを成し遂げました。」 Catherine Breslin - AI コンサルタント、元 従業員 Amazon 最後に、パニックではなく解決策を刺激する方法で、明日起こりうる問題に対処できるようにする、事実に基づくシステムを探す必要があります。
