悪意のある人工知能がディープフェイク誘拐詐欺を可能にする

今年初め、アリゾナ州スコッツデールの母親、ジェニファー・デステファノさんは、母親が決して直面すべきではない恐怖を経験した。それは、誘拐されたと泣き叫ぶ娘のすすり泣く声だった。

しかし、電話に出たのは娘ではなかった。これは非常に説得力のある AIディープフェイクだったので、デステファノさんは詐欺師たちに 5 万ドルを渡す用意ができており、金を支払わなければ娘を殺すと告げられました。

今日、デスタファノは米国上院で心のこもった証言を行い、彼女の悲惨で恐ろしい話を人権と法律に関する司法小委員会に伝えました。

「この形態のテロが処罰されないまま長くなればなるほど、さらにひどいものになるでしょう。 AI が可能にする悪の深さに制限はありません。」

「人工知能は、私たちが慣れ親しんでいるものを利用し、再定義するため、アメリカ国民だけでなく、国際社会全体に恐怖と恐怖を呼び起こすために武器化されています」とデステファノ氏は述べた。

「AIは、かつては疑問視されることのなかったもの、つまり愛する人の声に疑問と恐怖を生み出すことで、私たちの社会構造のまさに基礎を革命し、解明しています」と彼女は付け加えた。

アリゾナ州の母親は、4月にAZファミリーに話した誘拐と恐喝詐欺師との恐ろしい経験を語った後、ディープフェイクの音声クローンがいかに本物であるかについて説明した。

「それは娘の声でした。それは彼女の叫びだった。それは彼女のすすり泣きだった。それが彼女の話し方だった。その声と助けを求める必死の叫びを頭から追い出すことは決してできないでしょう。」

「私たちはもはや、『百聞は一見に如かず』や『自分の耳で聞いた』、さらには自分の子供の声さえも信頼できません。 」

デステファノ氏は、凶悪な目的に使用される生成型 AI の将来について意見を述べ、「この形態のテロが処罰されない状態が長くなればなるほど、さらにひどいものになるだろう」と警告しました。 AI が可能にする悪の深さに制限はありません。」

彼女は続けてこう述べた。「私たちの世界が電光石火のペースで変化する中、何が知られているか、何が真実であるかという社会構造の基礎を築く人間の親しみやすさという要素が、AIによって革命を起こしています。あるものは良い方向に、あるものは良い方向に」悪。

「私たちはもはや、『百聞は一見に如かず』や『自分の耳で聞いた』、さらには自分の子供の声さえも信頼できません。」

デステファノさんは娘が誘拐されていないことを知って警察に電話したが、警察はただのいたずら電話で実際の誘拐や金銭の授受はなかったため、できることはほとんどないと言われた。

「これが私たちの新しい日常ですか？」彼女は質問した。

「これは、結果も規制もなしに人工知能の悪用を可能にすることで私たちが創造している未来なのでしょうか？」

「管理も規制もされず、私たちが何の結果もなく保護されないまま放置されれば、何が真実で何が真実ではないかについての私たちの理解と認識が書き換えられてしまうでしょう。」

冒頭の挨拶に続いて、デステファノ氏は公聴会の最後まで質問に呼ばれることはなく、そこで彼女は「すべてのAIが悪いわけではない」こと、そして人々の生活を改善できる「希望に満ちたAIの進歩」がたくさんあることを繰り返し述べた。

デステファノ氏は、AI を恐ろしい方法で使用する悪意のある人物から生じる重大な危害について明確に概説しましたが、マイクロソフトのチーフエコノミスト、マイケル シュワルツ氏は 5 月に世界経済フォーラム (WEF) で、重大な危害が発生するまで AI は規制されるべきではないと述べました。

「想像上のシナリオではなく、実際に起きている何らかの意味のある害悪が分かるまで、AIを規制すべきではない」

WEF Growth Summit 2023 における Microsoft チーフエコノミストの Michael Schwarz 氏

WEF Growth Summit 2023 の「 成長ホットスポット: 生成型 AI 革命の活用」に関するパネルディスカッションでマイクロソフトのマイケル シュワルツ氏は、AI に関しては、何か悪いことが起こるまで規制しないのが最善であると主張しました。潜在的により大きな利益を抑制します。

「はい、AI が悪者に利用されるだろうと私は確信しています。はい、それは実際の損害を引き起こすでしょう。そして、はい、私たちは非常に注意深く、非常に警戒しなければなりません」とシュワルツ氏はWEF委員会に語った。

生成型 AI の規制について尋ねられたとき、マイクロソフトの首席エコノミストは次のように説明しました。

「AIの規制に関して私たちはどのような哲学を持っているべきでしょうか?明らかに、私たちはそれを規制する必要があり、そこでの私の哲学は非常にシンプルだと思います。

「赤ちゃんをお風呂のお湯と一緒に捨てないようにAIを規制すべきです。

「ですから、規制は抽象的な原則に基づくものではないと思います。

「経済学者として、私は効率性を好みます。そのため、まず、想像上のシナリオではなく、実際に起こっている何らかの重大な害が確認されるまで、AIを規制すべきではありません」と彼は付け加えた。

ブルームバーグによると、2023年1月23日、MicrosoftはChatGPTの開発者であるOpenAIとの提携を拡大し、「Microsoftは2019年にOpenAIに10億ドルを注ぎ込み、2021年にはさらに追加投資」に加えてさらに100億ドルを投資したという。