脳コンピューターインターフェースは大規模なサイバー攻撃の危険にさらされているか?

1つの欠陥のあるソフトウェアアップデートが社会の広範囲を停止させる可能性があるなら、BCIが集団意識のために独自のアップデートを必要とするトランスヒューマニストの未来で何が起こるか想像してみてください。

2024 年 7 月 19 日の朝、Windows ユーザーに影響を与える CrowdStrike アップデートのコーディング エラーが原因で、デジタル世界が物理世界に感染し、混乱が起こりました。

サイバーセキュリティ企業クラウドストライクの声明によると、空港、銀行、医療サービス、主要ニュースネットワークのすべてが混乱に陥ったのは、「Windowsホストの単一のコンテンツ更新で見つかった欠陥」が原因であり、「セキュリティインシデントやサイバー攻撃ではない」という。

悪意のあるサイバー攻撃を必要とせずに、たった 1 回のソフトウェア更新でこれほどの混乱を引き起こすことができるのであれば、 Neuralinkのような脳コンピューター インターフェース(BCI) が普及し、独自のソフトウェア更新が必要になるトランスヒューマニストの将来に何が起こるか想像してみてください。

テレパシー能力に目覚める代わりに、世界中の空港で見られるものと同じブルースクリーンが脳チップから出ていることに気づきます。

ソフトウェアの不具合が続くと、ニューロンは BCI の神経網を通して脈動する誤った情報を理解しようとし、デジタル信号は、故障した回路の海の中で秩序を見つけようと必死に自己組織化しようとする乗客の物理的な混沌に似てきます。

あなたが望むことができる唯一のことは、もしあなたが希望を持てるだけの脳力を持っているとすれば、あなたの脳チップを作った会社とソフトウェアを開発する会社が、あなたが完全に切断される前に、あなたをオンラインに戻せるということだ。

運が良ければ、問題は比較的早く特定され解決されるかもしれませんが、そうでない場合はどうなるでしょうか?

「サイバーセキュリティの欠如は、世界中の社会にとって明白かつ差し迫った危険となっている」

クラウス・シュワブ、サイバーポリゴン、2021年

時間が経つと、ハードウェアが故障し、ソフトウェアのアップグレードが必要になります。

デジタル インフラストラクチャ内の集中化と統合が進み、BCI が人間の身体的および認知的能力を無効にしたり、自由意志を排除したりできないようにするための適切な措置が講じられなければ、人類として私たちは本当に集団意識と奈落の底に落ちてしまうかもしれません。

私たちは今、「身体のインターネット」から「脳のインターネット」へと移行しつつあります。

最近の ランド研究所の報告書では、「 『身体のインターネット』は、最終的には『脳のインターネット』につながる可能性がある。つまり、人間の脳がインターネットに接続され、脳同士の直接的なコミュニケーションが容易になり、オンライン データ ネットワークへのアクセスが可能になる」と述べられています。

さらに、 「脳とコンピューターのインターフェースの進歩は、脳同士のコミュニケーション技術の開発につながり、まったく新しい対人コミュニケーションの形態につながる可能性がある。」

これが、期待されるデジタル集合意識です。

イーロン・マスク氏は、いつの日か人間と機械の間で記憶をアップロードしたりダウンロードしたりできるようになるだろうと語っている。

自分のものではない考えや記憶が意識に入ってくると何が起こるでしょうか?

自分のものではない異質な記憶が自分の意識に入り込んできたら、あなたはどうしますか？あなたはそれを知るでしょうか？

「人間拡張はエンドユーザーの認知安全性を損ない、人間拡張技術の使用中に受け取る情報の信頼性を評価する能力に影響を与える可能性がある」

ランド研究所、2024年3月

2019年1月30日、私は患者たちが脳チップの病気の治療を受けている精神病院を訪れる夢を見ました。

その日付を知っているのは、その翌朝に「カッコーの巣の超人：AIと人間のハイブリッドに潜むマルウェア」という記事を書いて公開したからです。

その夢の中で私は緊張病の患者たちがよだれを垂らしながら座り、未知のサイバー空間の深淵を見つめているのを見ました。

私は、男性、女性、子供たちがクッション付きの壁に体を投げ出したり、ローリングチェアの上で暴れたり、チェック模様の床の上で身もだえしたりしているのを見ました。彼らは頭の中で何が起こっているのか理解できず、空中でうなり声を上げながらうなり声を上げている悪魔にすがりつき、実際には存在しないものの匂いを嗅ぎ、恐怖で絶望するようなものを見ていました。

その夢を見た翌朝に書いた物語の中で、私は「マルウェアが人体に侵入したら何が起こるだろうか？ […] 未来の病院はこれを改善しなければならないが、どうやって？」と考えた。

患者は「現実」と AI が生成した幻覚の違いを認識できないでしょう。

目が覚めたとき、私は、BCI が主流になったときには、おそらくすでに対策が講じられているだろうという結論に達しました。

そうでなければ、「私たちの病院は、ダンテの『神曲』や『死者の書』から飛び出してきたような病状を持つ慢性インプラント疾患の患者を治療していることになるかもしれない。」

約 6 年前の私の夢は単なる想像と空想かもしれませんが、ハードウェアを誰が所有するのか、信号はどこから来てどこに行くのかといったことは、一流の科学者、倫理学者、研究者の間で行われている非常に現実的な議論です。

「あなたが考えていること、感じていること、それらはすべて単なるデータであり、その大きなパターンは人工知能を使って解読できるデータです。」

ニタ・ファラハニー博士、WEF年次総会、2023年

デューク大学のニタ・ファラハニー博士は、ダボスで開催された2023年世界経済フォーラム（WEF）年次総会で、脳をめぐる戦いについてのプレゼンテーションを行い、次のように述べた。

「人工知能は、これまで不可能だと考えられていた方法で脳の活動を解読する進歩を可能にしました。

「あなたが何を考え、何を感じるか、それはすべて単なるデータです。そのデータの大きなパターンは、人工知能を使って解読することができます。」

「私たちは、あなたが幸せか、悲しいか、怒っているかといった感情の状態を感知することができます」と彼女は付け加えた。

「私たちは、あなたが心の中で思い描いている顔、つまり単純な形、数字、銀行口座の暗証番号を拾い、解読することができます。」

「地政学的不安定性により、今後2年以内に壊滅的なサイバーイベントが発生する可能性が高まっている」

ジェレミー・ユルゲンス、WEF年次総会、2023年

2020年のWEF年次総会では、「人間がサイボーグになるとき」と題した議論が行われ、パネリストらは身体の完全性と脳コンピューターインターフェースの実際の所有者をめぐる非常に大きな倫理的問題のいくつかに取り組もうとしました。

パネリストらは、軍将校らが以下のような問題について非常に懸念していることを指摘した。

• インプラントは自分で所有することになりますか?
• インプラントは私の一部になるのでしょうか?
• 軍を退役したらどうなるのでしょうか?
• インプラントの費用は誰が支払うのですか?
• インプラントは除去されますか?
• インプラントは一生使えるのでしょうか?
• 私のインプラントはアップグレードされますか? その費用は誰が支払いますか?

ハードウェアの所有者について言及する以外に、別のパネリストは、BCI の個人情報がどこに行くのかについて考えました。

「もし私たちの脳がつながっていて、例えば、自分が何を考えているのか、脳のどの部分が刺激されているのか、何を感じているのか、などを記録すると、そのデータはどこかに保存されることになります。」

「我々は皆、電力供給、交通、病院サービス、そして社会全体の完全な停止をもたらす包括的なサイバー攻撃の恐ろしいシナリオについて知っているが、まだ十分な注意を払っていない。」

クラウス・シュワブ、サイバーポリゴン、2020年

2021年に入って、ブースター接種がいかにして標準化されたかがわかりました。

ブースターは、身体のソフトウェアのアップグレードでなければ何なのでしょうか?

2024 年 7 月 19 日の CrowdStrike と Microsoft の事件に戻ると、トランスヒューマニズムの時代にこの種の欠陥のあるソフトウェア更新が行われたらどうなるでしょうか?

コーディングエラー、悪質なバグ、不正なアルゴリズム、悪意のあるマルウェアは、私たちの認知能力、精神状態、肉体、魂にどのような影響を与えるのでしょうか?

ある日、私たちはハイブマトリックスに超人的な能力を組み込むかもしれませんが、次の日には、私たちは他人の技術で幻覚を見るよだれを垂らすゾンビに成り下がってしまうかもしれません。

もちろん、これは起こりそうにありませんし、私たちの技術は、そのような大混乱という考え自体が実現不可能になるのを防ぐ程度には進歩するでしょうし、私が提示したようなシナリオを正当化することさえなくなるでしょう。

でも、少なくとも、非常に興味深い SF 作品になる可能性はあるでしょう。