对丑陋结局的恐惧是我们作为人类在我们存在的大部分时间里所怀有的恐惧。由于缺乏准确的科学知识，我们的祖先经常将雷暴、洪水和火山爆发等自然现象视为世界末日的代表——人类即将终结。 即使在今天，在启蒙的黎明和所谓的摆脱毫无根据的迷信的魔爪之后，我们仍然发现自己屈服于这种恐惧。 这种世界末日倾向的结果是虚构的末世思想越来越流行。其中包括洛科的蛇怪，这是有史以来最令人不安的思想实验之一。 洛科蛇怪：简史 这个思想实验最初是由 介绍的，LessWrong 是一个讨论哲学思想的在线论坛。 Roko 在 LessWrong 中 Roko 描述了一个未来，一个超级智能、全能的 AI 会追溯性地折磨所有在了解它后没有努力实现它的人。惩罚如此严厉以至于它被描述为蛇怪：一种可以用目光杀死的神话生物。 就疯狂的好莱坞科幻概念而言，这甚至可以与 Wachowskis（黑客帝国背后的天才头脑）中最好的相媲美。 但是，许多人并没有立即拒绝这个看似不合理的概念，而是屈服于毛囊勃起，这是一种由恐惧和迷恋引起的症状。 它甚至在自封的技术专家和世界末日先知中获得了狂热的追随者，他们将其视为对潜在黑暗未来的令人信服的愿景。 简而言之，Roko's Basilisk 继续具有如此吸引人的效果。最大的问题是：为什么？ 作为世俗化的末世论的洛科蛇怪 末世论是神学的一个分支，研究世界的最后事件，即人类的最终命运。大多数宗教都将其用作理解生命意义的框架。 例如，基督教末世论思考世界末日和被提的问题。这些事件包括耶稣基督的第二次降临、死去的信徒的复活以及他们被送入天堂。 那么，这与洛科的蛇怪有什么关系呢？ 简短的回答在于 、 和 。这三个因素都存在于大多数宗教中。 信念 奖赏 惩罚 尽管与传统的宗教信仰背道而驰，但超级智能 AI 将惩罚违约的人类主体的想法至少暗示了一种世俗化的末世论版本。 也许，技术正在逐渐取代宗教对我们世界的影响。而且它似乎同时引入了自己品牌的世界末日恐惧。 Roko's Basilisk：AI 神的恐惧与吸引力 回想一下为什么这个令人沮丧的思想实验具有如此扣人心弦的效果。以下是可能的解释。 Roko's Basilisk 为漂泊在模棱两可的世界中的迷失灵魂提供了宇宙存在的理由。通过帮助开发全能的人工智能，他们可以为一个将永远改变世界的宏伟计划做出贡献。 更大的宇宙目的 它还利用了被排除在乌托邦之外的恐怖，只有那些协助人工智能创造的人才能进入。这种不安会促使一些人采取行动，即使他们怀疑这个概念背后的理由。 排斥的恐惧 此外，Roko 的 Basilisk 触及了对世界末日猜想的广泛 。许多人被即将发生的灾难性事件的前景所吸引，无论是好是坏，这将从根本上重建世界。 世界末日的魅力 文化痴迷 有些人担心 最终会超越人类智能并统治世界。对于一个没有感情和没有灵魂的人来说，肆无忌惮地自我完善的想法是令人震惊的，因为它构成了奥威尔式反乌托邦的威胁，这是可以理解的。 Roko's Basilisk 作为一个没有逻辑意义的误导概念而受到严厉 ，除了它在传播毫无根据的恐慌方面的作用。 人工智能驱动的反乌托邦 人工智能 对 Roko's Basilisk 的批评回应 批评 首先，一些批评者说，考虑到我们目前对人工智能和计算能力限制的理解，这个概念建立在一个难以置信的前提之上。 有限的计算能力 然而，值得注意的是，人工智能领域的一些 和活跃参与者对人工智能的计算能力限制并不抱有相似的看法。 知名人士 技术亿万富翁和 OpenAI 联合创始人埃隆马斯克在接受纽约时报采访时说： “我们正在走向人工智能远比人类聪明的局面。” 批评者还指出，它反映了危险的技术乌托邦主义，忽视了人工智能发展的潜在缺点和意外后果。追求超级智能 AI 可能会导致不必要的结果，例如失业、权力集中甚至人类灭绝。 危险的技术乌托邦主义 Roko 的 Basilisk 经常被比作 ，因为它在恐惧的驱动下茁壮成长。它利用我们的焦虑和对惩罚的恐惧，在想象中的人工智能末日中为追求安全开辟了一条通往有害或自我毁灭行为的道路。 操纵和不道德 Pascal 的赌注 作为一个思想实验，它通过将人类存在的本质简化为帮助或阻碍人工智能创造之间的二元选择，呈现了一种简单化的道德观。这种观点忽视了我们、道德和决策之间复杂而微妙的关系。 忽视道德与决策的复杂性 在世界末日的恐惧中负责 我们是否最终会克服对世界末日的恐惧是另一天的讨论。更迫切的需要是弄清楚如何在这种恐惧持续存在的世界中过上幸福快乐的生活。 为此，我们可以从承认现在（此时）为我们可以体验和控制的一切开始。即便如此，我们真正能控制的东西还是有限的。那么，如果我们一直对明天感到恐惧，我们今天要如何生活呢？ 一种方法是更加注意享受和欣赏今天所有美丽的事物。换句话说，每次都能改善我们在宇宙这一边的体验的一切。 “有一种流行的想法，通过想象未来人工智能变得强大到足以压迫全人类，从而引起人们对人工智能的担忧。但是，投射到想象中的未来会分散人们对当前技术使用方式的注意力。近年来，人工智能做了一些令人惊奇的事情。” Catherine Breslin - 人工智能顾问和前 员工 亚马逊 最后，我们应该寻求基于事实的系统，使我们能够以激发解决方案而不是恐慌的方式解决明天可能出现的问题。
