악성 인공지능으로 딥페이크 납치 사기 가능

이 기사의 리드 이미지는 HackerNoon의AI 이미지 생성기가 "사악한 로봇" 프롬프트를 통해 생성한 것입니다.

올해 초, 애리조나 주 스코츠데일의 엄마 제니퍼 드스테파노(Jennifer DeStefano)는 어떤 엄마도 직면해서는 안 될 공포를 경험했습니다. 딸이 납치됐다고 울부짖는 흐느끼는 목소리였습니다.

하지만 전화를 건 사람은 딸이 아니었습니다. DeStefano는 사기꾼에게 5만 달러를 넘길 준비 가 되어 있었고, 사기꾼은 돈을 내지 않으면 딸을 죽이겠다고 말했습니다.

오늘 DeStafano는 미국 상원 앞에서 그녀의 끔찍하고 끔찍한 이야기를 사법부 인권 및 법 소위원회 에 전달하면서 진심 어린 증언을 했습니다.

“이러한 형태의 테러는 처벌할 수 없는 상태로 오래 지속될수록 더욱 심각해질 것입니다. AI가 활성화할 수 있는 악의 깊이에는 제한이 없습니다.”

DeStefano는 “ 인공지능은 미국 대중뿐만 아니라 글로벌 커뮤니티 전반에 우리가 익숙하다고 알고 있는 것을 활용하고 재정의하기 위해 무기화되고 있습니다.”라고 말했습니다.

“AI는 한 번도 의문의 여지가 없었던 사랑하는 사람의 목소리에 의심과 두려움을 심어줌으로써 우리 사회 구조의 기초를 혁신하고 해체하고 있습니다.”라고 그녀는 덧붙였습니다.

애리조나의 엄마는 지난 4월에 AZ Family 에게 납치 및 강탈 사기꾼과 의 끔찍한 경험에 대한 이야기를 다시 한 후 딥페이크 음성 복제가 얼마나 진짜처럼 보이는지 설명했습니다.

“ 내 딸의 목소리였어요. 그것은 그녀의 외침이었습니다. 그것은 그녀의 흐느끼는 소리였습니다. 그녀가 말하는 방식은 이러했습니다. 나는 결코 그 목소리와 도움을 청하는 절박한 외침을 내 마음에서 떨쳐버릴 수 없을 것입니다 .”

“우리는 더 이상 '보는 것이 믿는 것이다', '내 귀로 들었다', 심지어는 자녀의 목소리도 믿을 수 없습니다. ”

DeStefano는 사악한 목적으로 사용되는 생성 AI의 미래에 대해 다음과 같이 경고했습니다. “이러한 형태의 테러가 처벌할 수 없는 상태로 오래 지속될수록 더욱 심각해질 것입니다. AI가 활성화할 수 있는 사악한 깊이에는 제한이 없습니다 .”

그녀는 계속해서 이렇게 말했습니다. “우리 세계가 빛처럼 빠른 속도로 움직이면서, 알려진 것과 진실이 무엇인지에 대한 우리 사회 구조의 기초를 놓는 인간적 친숙함의 요소는 AI를 통해 혁명을 일으키고 있습니다. 일부는 선을 위해, 일부는 사악한.

“우리는 더 이상 '보는 것이 믿는 것이다', '내 귀로 들었다', 심지어는 자녀의 목소리도 믿을 수 없습니다."

DeStefano는 딸이 납치되지 않았다는 사실을 알고 경찰에 신고했지만 경찰은 장난전화일 뿐 실제 납치나 돈 교환은 없었기 때문에 할 수 있는 일이 거의 없다고 말했습니다.

“ 이것이 우리의 새로운 표준인가요 ?” 그녀는 질문했다.

“ 이것이 결과와 규제 없이 인공 지능의 남용을 가능하게 함으로써 우리가 만들고 있는 미래입니까 ?”

“ 통제되지 않고, 규제되지 않고, 아무런 결과도 없이 보호받지 못한 채 방치된다면 무엇이 진실이고 무엇이 진실이 아닌지에 대한 우리의 이해와 인식이 다시 쓰여질 것입니다 .”

개회 발언에 이어 DeStefano는 청문회가 끝날 때까지 심문을 요청받지 않고 "모든 AI가 악한 것은 아니다"라고 반복했으며 사람들의 삶을 개선할 수 있는 "AI의 희망적인 발전"이 많이 있다고 반복했습니다.

DeStefano는 AI를 끔찍한 방식으로 사용하는 악의적인 행위로 인해 발생하는 의미 있는 피해를 명확하게 설명했지만 Microsoft 수석 경제학자 Michael Schwarz는 지난 5월 세계경제포럼(WEF) 에서 의미 있는 피해가 발생할 때까지 AI를 규제해서는 안 된다고 말했습니다.

“가상의 시나리오가 아닌 실제로 발생하는 의미 있는 피해를 확인할 때까지 AI를 규제해서는 안 됩니다.”

WEF 성장 서밋 2023에 참석한 Microsoft 수석 경제학자 Michael Schwarz

WEF 성장 서밋 2023에서 " 성장 핫스팟: 생성적 AI 혁명 활용 " 패널에서 Microsoft의 Michael Schwarz는 AI에 관해서는 나쁜 일이 발생할 때까지 이를 규제하지 않는 것이 가장 좋을 것이라고 주장했습니다. 잠재적으로 더 큰 이점을 억제합니다.

“ 저는 AI가 악의적인 행위자에 의해 사용될 것이라고 확신합니다. 그렇습니다. 실제 피해를 입힐 수 있습니다. 그렇습니다. 우리는 매우 조심하고 경계해야 합니다 ”라고 Schwarz는 WEF 패널에게 말했습니다.

생성 AI 규제에 관해 질문을 받았을 때 Microsoft의 수석 경제학자는 다음과 같이 설명했습니다.

“AI 규제에 대한 우리의 철학은 무엇이어야 합니까? 분명히 우리는 그것을 규제해야 하며, 거기에 대한 나의 철학은 매우 간단하다고 생각합니다.

“ 목욕물과 함께 아기를 버리지 않도록 AI를 규제해야 합니다 .

“그래서 규제는 추상적인 원칙에 기초해서는 안 된다고 생각합니다.

“경제학자로서 저는 효율성을 좋아합니다. 따라서 먼저 가상의 시나리오가 아니라 실제로 일어나고 있는 의미 있는 피해를 확인할 때까지 AI를 규제해서는 안 됩니다 .”라고 그는 덧붙였습니다.

Bloomberg 에 따르면 2023년 1월 23일 Microsoft는 ChatGPT의 창시자인 OpenAI와의 파트너십을 확장하여 "Microsoft가 2019년에 OpenAI에 쏟아 부은 10억 달러와 2021년에 또 다른 라운드에 추가로 100억 달러를 투자했습니다 ."라고 밝혔습니다.