恶意人工智能助长 Deepfake 绑架骗局

今年早些时候，亚利桑那州斯科茨代尔的妈妈詹妮弗·德斯蒂法诺经历了任何母亲都不应该面对的恐惧——她女儿抽泣着哭着说她被绑架了。

但电话里不是她女儿。这是一个人工智能深度伪造，如此令人信服，以至于 DeStefano 准备向骗子交出 5 万美元，骗子告诉她，如果她不付款，他们就会杀死她的女儿。

今天，德斯塔法诺在美国参议院作了衷心的证词，向司法人权和法律小组委员会转述了她的悲惨而可怕的故事。

“这种形式的恐怖行为不受惩罚的时间越长，它就会变得越令人震惊。人工智能的邪恶程度是无限的”

德斯蒂法诺说：“人工智能正在被武器化，不仅会引起美国公众的恐惧和恐惧，而且会引起整个国际社会的恐惧和恐惧，因为它利用并重新定义了我们所熟悉的东西。”

她补充道：“人工智能正在彻底改变和瓦解我们社会结构的基础，它通过对曾经从未受到质疑的事物——亲人的声音——产生怀疑和恐惧。”

这位亚利桑那州的妈妈在四月份向AZ Family讲述了她与绑架和勒索诈骗者的可怕经历后，解释了深假语音克隆看起来是多么真实：

“这是我女儿的声音。这是她的哭声；这是她的抽泣。她就是这样说话的。我永远无法摆脱那个声音和绝望的呼救声。”

“我们不再相信‘眼见为实’或‘我亲耳所闻’，甚至是你自己孩子的声音”

在谈到用于邪恶目的的生成式人工智能的未来时，德斯蒂法诺警告说：“这种形式的恐怖活动不受惩罚的时间越长，它就会变得越令人震惊。人工智能的邪恶程度是无限的。”

她接着说：“随着我们的世界以闪电般的速度发展，为我们已知和真理的社会结构奠定基础的人类熟悉因素正在被人工智能彻底改变——有些是好的，有些是好的。邪恶的。

“我们不再相信‘眼见为实’或‘我亲耳所闻’，甚至是你自己孩子的声音。”

当德斯蒂法诺发现她的女儿没有被绑架时，她报了警，但警方告诉她，他们无能为力，因为这只是一个恶作剧电话，没有真正的绑架或金钱交换。

“这是我们的新常态吗？”她问道。

“这就是我们通过滥用人工智能而不产生任何后果和不受监管而创造的未来吗？”

“如果不受控制、不受监管，我们得不到保护而不会产生任何后果，它将改写我们对什么是真理、什么不是真理的理解和看法。”

在她的开场白之后，德斯蒂法诺直到听证会结束才被要求接受质询，她重申“并非所有人工智能都是邪恶的”，并且“人工智能有很多充满希望的进步”可以改善人们的生活。

虽然 DeStefano 明确概述了不良行为者以可怕的方式使用人工智能所造成的有意义的伤害，但微软首席经济学家迈克尔·施瓦茨 (Michael Schwarz) 在 5 月份的世界经济论坛 (WEF) 上表示， 在造成有意义的伤害之前，不应对人工智能进行监管。

“在我们看到实际发生的一些有意义的危害（而不是想象中的场景）之前，我们不应该监管人工智能”

微软首席经济学家 Michael Schwarz 在 2023 年世界经济论坛增长峰会上

微软的迈克尔·施瓦茨 (Michael Schwarz) 在 2023 年世界经济论坛增长峰会上的“ 增长热点：驾驭生成式 AI 革命”小组中发表讲话时表示，在人工智能方面，最好在发生不好的事情之前不要对其进行监管，以免抑制潜在的更大利益。

“我非常有信心，人工智能会被坏人利用；是的，它会造成真正的损害；是的，我们必须非常小心、非常警惕，”施瓦茨告诉世界经济论坛专家组。

当被问及监管生成式人工智能时，微软首席经济学家解释道：

“我们监管人工智能的理念应该是什么？显然，我们必须对其进行监管，我认为我的理念非常简单。

“我们应该以一种不会把婴儿和洗澡水一起倒掉的方式来监管人工智能。

“所以，我认为监管不应基于抽象原则。

“作为一名经济学家，我喜欢效率，所以首先，我们不应该监管人工智能，直到我们看到一些实际发生的有意义的伤害——而不是想象的场景，”他补充道。

据彭博社报道，2023 年 1 月 23 日，微软延长了与 ChatGPT 的创建者 OpenAI 的合作关系，在“微软于 2019 年向 OpenAI 注入 10 亿美元并在 2021 年向 OpenAI 注入另一轮资金”的基础上， 又追加投资了 100 亿美元。