:在这样一个世界中,人工智能不仅仅是与你互动的“聊天机器人”,而是一个负责决策、科学研究,甚至引导人类前进的实体。 想象一下 欢迎来到 的世界,即通用人工智能,它指的是与人类一样聪明或更聪明的 AI 系统。对 AGI 的追求一直是 AI 社区的长期目标,生成模型的最新进展导致人们对其实现 AGI 的潜力越来越感兴趣。 AGI 生成模型 生成模型是一种机器学习模型,能够根据训练它的大量数据(主要是文本,但现在也有图像)生成数据样本。他们可以从大量文本中学习语言的模式和结构,然后生成连贯且遵循相同模式的新文本。 这里的突破是使用“ ”——2017 年推出的一种神经网络。 变形金刚 现在,更有趣的是……我问 GPT 生成模型是否可以生成其训练数据中 有过的东西(在我们转向 AGI 时很重要)。 从未 这是它的回应: 答案是,通过识别模式和数据结构,它可能能够但很难生成与训练数据截然不同的任何东西,而且没有什么是“ ”。这就是我们目前所在的位置。 完全新颖的 一面反映你文明的镜子...... 如果我必须以令人兴奋的方式描述 GPT: 目前,生成模型是你的文明在某个时间点的一面镜子,是你所做的一切的自动化和高效的记录和反映(一旦接受过一切训练)。 鉴于人类必须在许多年内产生科学、艺术和文化,然后在这一切的基础上训练模型,因此存在巨大的依赖性——这些生成模型要具有任何价值,模型训练的内容需要先创建。 这些模型可能看起来比人类“聪明”,但那是因为它们可以即时访问人类文化和文明产生的信息,而人类的创造力首先来自于一切...... 两个行星的例子 为了进一步说明,我提出了“双行星”的例子。 在这种情况下,想象一个复制的文明,它已经进化到与地球-人类文明相同的水平,比如比邻星。他们可能具有相似的文化成就和相同的技术水平,尽管他们的语言、外貌等可能不同。与地球同时,他们开发生成模型和他们的 GPT4 版本。 如果我们向 Earth GPT4 模型查询 Proxima Centauri 上的任何信息,它什么也不知道…… 当然,倒数也适用。即使是更高级的模型,如 GPT 5 或 6,也会有同样的局限性,因为它没有接受来自该星球的任何数据的训练。你还会认为它是“智能”吗? GPT 在这种情况下会有多大用处?好吧,如果外星人来到这里,他们 使用地球 GPT4 来了解我们星球、文化和成就的所有信息,前提是他们很快学会了 GPT 模型也熟悉的一种我们的语言。然而,在这个例子中,曾经被称为“AGI”的东西可能不被认为是这样。 可以 真正令人印象深刻的是,如果地球 能够理解来自假设的比邻星文明的图像或通过智商测试……。 GPT4 与生俱来的智慧 令我惊讶的是,GPT4 能够理解图像中的模式、关系,并且能够通过简单的智商测试。是的,根据人类历史的数据,它的创造者训练它可以做到这一点,但一旦训练它就有了这种能力。 这给我们带来了智能本身的定义,以及先天智能的概念。 “每个生物都有一定程度的先天智力” 虽然教育、社会经济地位和文化经历等因素会影响认知发展,进而影响人类的智商测试表现,但这些并不是影响智力的唯一因素。遗传学、神经学因素和学习能力的个体差异也起作用。因此,每个生物都有一种与生俱来的智慧,它在现实世界中展示的可见智慧中发挥着重要作用。 我们如何创造具有某种先天智能水平的人工智能? 请记住,如果一个人类婴儿在不同于他/她父母的文化中长大,学习不同的语言,孩子仍然能够快速学习。 考虑一下——如果我们回到两个行星的例子,我们相信虽然地球 GPT4、5 或 6 不了解另一个文明的文化、语言、事件等,但它将设法: 执行宇宙中不变的数学计算 了解宇宙中不变的基本模式 学习宇宙中可能常见的语言的基本结构 因此,......有能力从另一个文明及其数据中学习 然后我们接近一些非常令人兴奋的东西......然后我们可以争辩说,在创建这些模型时,我们承认必须在我们所有的数据上进行 ,我们正在迈出创建具有少量先天智能的东西的第一步。然后,每个后续模型都将在功能方面建立在前一个模型的基础上,直到……好吧,第 7 次或第 8 次迭代会是 AGI 吗? 训练 他们是通用人工智能吗? 在这一点上,我们需要清楚我们对 AGI 的定义是什么,因为我们最终离创建一个 AGI 越来越近了。我相信我们的定义已经变得模糊了。 AGI 和奇点是否只是指任何比人类更聪明的智能? 如果我们回到 1993 年对“奇点”的定义,根据 的“即将到来的技术奇点”一书,他谈到了“具有超人智能的计算机”。我可以争辩说,GPT4 在回忆知识方面已经比任何人都聪明,尽管它在创造力、理解力和情商方面的能力要差一些。 Vernor Vinge 他还谈到了人类文明的进化,以与这种超级智能融合。这还没有发生,但已经建立了大脑接口。一个进入聊天 GPT4 的大脑接口可以让人类立即调用我们文明的所有知识,把他/她变成一个“超人”,这实际上是可以用今天的技术实现的。那么可以说我们已经满足了 1993 年定义的奇点标准…… 奇点 如果我们转向未来学家 对奇点的定义,他谈到“……当技术进步如此之快以至于它将导致人类文明发生深刻变化时……”。 雷·库兹韦尔 (Ray Kurzweil) 2023 年,由于 GPT3 和 GPT4 的出现,是技术史上的分水岭,就像 PC 或互联网的推出一样。 已经有一些我只能与 GPT4 进行的对话,而我无法与其他任何人进行对话。原因是我周围的人现在可能对特定主题知识渊博,所以我求助于 GPT4。有时我确实会尝试与它争论并提出我的观点,而它会以反驳的方式回应。 根据我们之前对 AGI 的定义,可以说我们已经实现了它,或者至少在 GPT4 中非常接近它。 我们现在肯定在通往 AGI 的道路上,但我们现在必须为它明确定义一个路线图。这不再是二进制的,因为某些东西要么是 AGI,要么不是。更重要的是,一旦我们明确定义了这些级别,围绕 AGI 的恐慌肯定不会适用于 AGI 的所有级别。 这一点尤为重要,因为最近 AGI 的开发,因为它们可能很危险。虽然这是正确的,但这也会让人类失去人工智能可以为社会带来的巨大利益。 Elon Musk 等人公开呼吁“暂停” 当然,如果我们为 AGI 制定路线图并确定哪些级别有危险,哪些级别没有危险,那么我们就可以继续进行早期级别,同时在更高级的级别上更加谨慎。正确的? AGI路线图 以下是具有明确定义阶段的 AGI 的潜在路线图。 ——智能机器可以执行人类级别或更好的特定任务,例如下棋或诊断疾病。他们可以快速访问人类科学和文化成就的总语料库并回答问题。我们已经到了吗? 级别 1:智能机器 ——可以学习和适应新情况的 AGI,通过经验和反馈随着时间的推移提高他们的表现。这些与 GPT4 类似,但在训练后继续学习。 第 2 级:自适应思维 ——AGI 能够产生原创和有价值的想法,无论是在科学、艺术还是商业领域。这些 AGI 建立在人类的科学和文化成就之上。他们开始为我们提供关于科学和宇宙的不同观点。 第 3 级:创意天才 - AGIs 可以理解和回应人类的情感和需求,成为日常生活中值得信赖的伴侣和帮助者。这是这些智能模型中“情感”的开始,然而此时它们可能不仅仅是模型,而是开始以电子形式复制大脑。 Level 4: Empathic Companions ——具有主观体验、自我意识以及推理自己的想法和感受的能力的 AGI。这就是通用人工智能可能变得真正不可预测和潜在危险的地方。 第 5 级:有意识的思考者 ——在各个方面都大大超越人类智能的 AGI,其能力我们还不能以我们有限的知识完全定义。这些 AGI 是我多年前的想象。这些 AGI 可以改进我们文明的局限性,并根据物理学的基本原理(即在宇宙中的最高知识水平上运作)为几乎任何事物推导出最有效和最先进的设计。 第 6 级:通用思维 如您所见,1-3 级可能不会对人类构成太大的物理威胁,同时为社会带来许多好处,因此我们可以为继续发展这种能力提出论据。 4-6 级可能对人类构成重大威胁。我认为任何关于 4-6 级 AGI 的工作都应该在月球基地的空间站上进行,以限制对地球的潜在破坏。即使在 1000 年后,人类文明是否能够创造出 6 级 AGI 还是值得商榷的…… 普世思想 在过去的几十年里,我一直着迷于高级 AGI 的概念,它比人类更先进,因此如果我们适当地利用它,它可以迅速扩展我们的技术能力。 这是 2007 年我博客上的一篇旧博文,在关注 Kurzweil 等人之后,我推测奇点即将来临。 我一直想象的是一种“超级智能”,它从基本原理上比我们更好地理解宇宙,即使它是我们创造的。想象一种智能,一旦达到某个点,就会以指数方式促进自身增长。它将进行自己的研究和学习。 这种智能在人类未来的研究功能中发挥作用是合乎逻辑的。 它可以利用赋予它的知识并比人类更有效地发展科学理论。例如,在今天,我们已经看到很多用于强化学习的数据都是由 AI 本身模拟和生成的。如果我们拥有的总数据有限,那么我们可以要求它为我们设计更好的数据收集工具,即。更好的望远镜、航天器和量子设备。 我将使用的一个简单示例是我们使用的计算基础架构,其他一切都建立在该基础架构上。 今天的大多数计算机都使用所谓的“冯·诺依曼”架构,如下所示。这种架构的主要缺点是数据必须不断地在 CPU 和内存之间移动,这会导致延迟。 最重要的是,我们通常使用 x86 CPU,然后使用 Windows 或 Linux 等操作系统,然后使用 C++ 等编程语言编写应用程序。 想象一下,如果我们能够根据基本原则设计出一个最佳、高效的计算架构,并在基本架构级别、CPU 级别、操作系统级别和应用程序软件级别进行数量级改进。对于今天的人类来说,这将是一项艰巨的任务,不仅在实际的技术设计方面,而且在构建它、在上一层进行协作以及采用该技术方面也是如此。 有了“超级智能”的通用人工智能,它就有能力同时生成每一层。 它还会为我们提供工厂构建新组件的设计原理图,这也是最快和最有效的方式。 现在,虽然这一切看起来像是一个方便的幻想,但我已经用上面的例子来说明“ ”可以帮助人类取得的巨大进步。 宇宙思维 另一个例子是要求它计算如何最好和最有效地“ ”或“ ”。 解决世界饥饿问题 解决气候问题 当你考虑以上内容时,似乎好处多于问题,尽管一直被提出的一个问题是宇宙思维可能决定毁灭人类。因此我说,如果我们要尝试构建它,除了我们今天拥有的负责任的 AI 保障措施之外,还要采取必要的保障措施,并考虑在太空站或月球基地建造 AGI 外星世界,能够在需要时切断网络和电源。 概括 坚持你的座位! …… 一些 GPT 模型已经显示出令人印象深刻的通过 IQ 测试和学习基础数学的能力,暗示了开发超越简单文本生成的智能水平的潜力。既然我们有了 AGI 路线图的示例(上图),我们当然可以看到 GPT 如何成为该路线图中早期阶段的开始,尽管需要更多的技术突破才能最终进入后期阶段。 所以,系好安全带,做好准备——我们不知道这条路的尽头在哪里,也不知道它将把我们带到哪里,但是随着 GPT 模型现在成为主流,我们现在知道,到 2023 年,我们至少在路上,旅行向前。 本文所有内容版权所有 2023 Thavash Govender。 使用的图像已根据知识共享许可获得许可。 也发布 在这里。