脑机接口是否存在遭受大规模网络攻击的风险？

如果一个错误的软件更新就能让社会大范围瘫痪，想象一下，在超人类主义的未来，当脑机接口需要为集体思维进行自我更新时，会发生什么：观点

2024 年 7 月 19 日上午，据报道，由于 CrowdStrike 更新中出现编码错误影响了 Windows 用户，数字领域感染了物理世界，从而引发了破坏性的混乱。

据网络安全公司CrowdStrike的声明称，机场、银行、医疗服务和主要新闻网络均因“Windows 主机单个内容更新中发现的缺陷”而中断，而“并非安全事件或网络攻击”。

如果仅一次软件更新就能造成如此大的破坏，而无需恶意网络攻击，想象一下，当Neuralink等脑机接口(BCI) 变得普遍并需要进行自己的软件更新时，在超人类主义的未来会发生什么。

你醒来后发现，自己并没有拥有心灵感应的能力，而是被大脑芯片控制，出现了像世界各地机场都见到的那种死机蓝屏。

随着软件不断出现故障，你的神经元会尝试理解通过 BCI 的神经网脉动的错误信息，数字信号开始变得类似于乘客的物理混乱，他们手忙脚乱地进行自我组织，试图在一片故障电路的海洋中找到秩序。

如果你的大脑确实还有希望的话，你唯一能希望的就是制造你大脑芯片的公司和开发软件的公司能够在你完全脱离大脑之前让你重新上线。

也许您很幸运，问题能够相对较快地被发现和解决，但是如果没有呢？

“网络安全的缺失已经成为全球社会面临的明显而直接的危险”

克劳斯·施瓦布，《网络多边形》，2021 年

随着时间的推移，硬件会出现故障，软件需要升级。

如果数字基础设施的集中化和整合继续下去，并且不采取适当措施确保 BCI 不会超越我们的身体和认知能力或消除我们的自由意志，那么作为一个物种，我们可能真的会陷入集体思维和深渊。

我们现在正在从身体互联网转向大脑互联网。

兰德公司最近的一份报告指出，“ ‘体联网’最终还可能导致‘脑联网’，即将人类大脑连接到互联网，以促进脑与脑之间的直接交流，并能够访问在线数据网络。”

此外， “脑机接口的进步可能转化为开发脑对脑通信技术，从而带来全新的人际交流模式。”

这是预期的数字蜂巢思维。

埃隆·马斯克说，有一天我们将能够在人类和机器之间上传和下载记忆。

当一个不属于你自己的想法或记忆进入你的意识时会发生什么？

如果一段不属于你的外来记忆进入了你的意识，你会怎么做？你会知道吗？

“人类增强可能会破坏最终用户的认知安全，并影响他们在使用人类增强技术时评估所收到信息的可信度的能力”

兰德公司，2024 年 3 月

2019年1月30日，我梦见自己参观了一家精神病院，那里的病人正在接受脑芯片疾病治疗。

我知道这个日期是因为第二天早上我写了一篇名为《飞越疯人院里的超人：人工智能与人类混合体中的恶意软件》的文章并发表了。

在那个梦里，我看到精神分裂症患者流着口水，坐着，凝视着某个未知的网络深渊。

我看到男人、女人和孩子猛撞软垫墙壁，在滚动的椅子上挣扎，在方格地板上扭动——无法理解他们脑子里在想什么——抓住在半空中呼啸而过的嚎叫的恶魔，闻到并不真正存在的东西，看到会让他们恐惧而绝望的东西。

在做完这个梦第二天早上写的故事中，我思考道：“如果恶意软件进入人体会发生什么？[…] 未来的医院必须解决这个问题，但该怎么做呢？”

患者不知道什么是“真实”，什么是人工智能产生的幻觉。

当我醒来时，我得出结论，如果 BCI 成为主流，那么对策可能已经到位了。

如果不是，“我们的医院可能正在治疗患有慢性植入疾病的患者，他们的病情可能看起来就像但丁的《地狱》或《死者之书》中的场景。”

我近六年前的梦想可能只是想象和幻想，但关于谁拥有硬件、信号从哪里来、到哪里去的想法，都是顶尖科学家、伦理学家和研究人员正在进行的真实讨论。

“你的想法、你的感受——都只是数据——大量数据可以用人工智能进行解码”

Nita Farahany 博士，世界经济论坛 2023 年年会

杜克大学的尼塔·法拉哈尼博士在2023 年达沃斯世界经济论坛(WEF) 年会上发表了关于大脑之战的演讲，她说：

“人工智能以我们以前从未想象过的方式推动了解码大脑活动的进步。

“你的想法、你的感受 — — 这些都只是数据 — — 大量数据都可以用人工智能进行解码。”

“我们可以了解你的情绪状态——比如你是高兴、悲伤还是愤怒，”她补充道。

“我们可以捕捉并解读你脑海中看到的面孔——简单的形状、数字、你的银行账户 PIN 码。”

“地缘政治不稳定导致未来两年发生灾难性网络事件的可能性很大”

Jeremy Jurgens，世界经济论坛 2023 年年会

在2020 年世界经济论坛年会上，有一场名为“当人类变成机器人时”的讨论，小组成员试图解决一些有关身体完整性以及谁真正拥有脑机接口的非常大的伦理问题。

小组成员指出，军官们非常关心以下问题：

• 我有自己的植入物吗？
• 我的植入物会成为我身体的一部分吗？
• 我退伍后会发生什么？
• 谁来支付我的植入费用？
• 我的植入物会被移除吗？
• 我可以终生保留我的植入物吗？
• 我的植入物会升级吗？谁来支付费用？

除了讨论谁拥有硬件之外，另一位小组成员还在思考私密的 BCI 数据将会去往何处：

“如果我们的大脑连接在一起，你就会记录下自己可能在想什么、大脑的哪些区域受到了刺激、你的感受等等——这些数据都会被存储在某个地方。”

“我们都知道，但仍然没有足够重视，全面网络攻击的可怕情景，它将彻底中断电力供应、交通、医院服务，甚至整个社会。”

克劳斯·施瓦布，《网络多边形》，2020 年

从 2021 年开始，我们看到加强针接种已变得常态化。

如果不是身体的软件升级，助推器又是什么呢？

回到 2024 年 7 月 19 日的 CrowdStrike 和微软时刻，如果这种类型的错误软件更新发生在超人类主义时代，会发生什么？

编码错误、严重漏洞、恶意算法或恶意软件会如何影响我们的认知能力、精神状态、身体和灵魂？

也许有一天，我们能将超人的能力植入蜂巢矩阵，但第二天，我们却会沦为在别人的技术上产生幻觉、流口水的僵尸。

当然，这种情况不太可能发生，我们的技术可能会不断改进，从而阻止这种混乱的想法成为可能，甚至不保证会出现我所提出的这种情况。

但是嘿！如果可以的话，至少它可以成为一部非常有趣的科幻作品。