이 기사의 리드 이미지는 HackerNoon의  "사악한 로봇" 프롬프트를 통해 생성한 것입니다. AI 이미지 생성기가  올해 초, 애리조나 주 스코츠데일의 엄마 제니퍼 드스테파노(Jennifer DeStefano)는 어떤 엄마도 직면해서는 안 될 공포를 경험했습니다. 딸이 납치됐다고 울부짖는 흐느끼는 목소리였습니다.  하지만 전화를 건 사람은 딸이 아니었습니다. DeStefano는 사기꾼에게 5만 달러를 넘길 준비   되어 있었고, 사기꾼은 돈을 내지 않으면 딸을 죽이겠다고 말했습니다. 가  오늘 DeStafano는 미국 상원 앞에서 그녀의 끔찍하고 끔찍한 이야기를   에 전달하면서 진심 어린 증언을 했습니다. 사법부 인권 및 법 소위원회   https://twitter.com/SenOssoff/status/1668702476122615813?s=20&embedable=true   “이러한 형태의 테러는 처벌할 수 없는 상태로 오래 지속될수록 더욱 심각해질 것입니다. AI가 활성화할 수 있는 악의 깊이에는 제한이 없습니다.”  DeStefano는 “   미국 대중뿐만 아니라 글로벌 커뮤니티 전반에 우리가 익숙하다고 알고 있는 것을 활용하고 재정의하기 위해 무기화되고 있습니다.”라고 말했습니다. 인공지능은  “AI는 한 번도 의문의 여지가 없었던 사랑하는 사람의 목소리에 의심과 두려움을 심어줌으로써 우리 사회 구조의 기초를 혁신하고 해체하고 있습니다.”라고 그녀는 덧붙였습니다.  애리조나의 엄마는 지난 4월에   에게 납치 및 강탈 사기꾼과   다시 한 후 딥페이크 음성 복제가 얼마나 진짜처럼 보이는지 설명했습니다. AZ Family 의 끔찍한 경험에 대한 이야기를  “   .” 내 딸의 목소리였어요. 그것은 그녀의 외침이었습니다. 그것은 그녀의 흐느끼는 소리였습니다. 그녀가 말하는 방식은 이러했습니다. 나는 결코 그 목소리와 도움을 청하는 절박한 외침을 내 마음에서 떨쳐버릴 수 없을 것입니다    ” “우리는 더 이상 '보는 것이 믿는 것이다', '내 귀로 들었다', 심지어는 자녀의 목소리도 믿을 수 없습니다.  DeStefano는 사악한 목적으로 사용되는 생성 AI의 미래에 대해   .” 다음과 같이 경고했습니다. “이러한 형태의 테러가 처벌할 수 없는 상태로 오래 지속될수록 더욱 심각해질 것입니다. AI가 활성화할 수 있는 사악한 깊이에는 제한이 없습니다  그녀는 계속해서 이렇게 말했습니다. “우리 세계가 빛처럼 빠른 속도로 움직이면서, 알려진 것과 진실이 무엇인지에 대한 우리 사회 구조의 기초를 놓는 인간적 친숙함의 요소는 AI를 통해 혁명을 일으키고 있습니다. 일부는 선을 위해, 일부는 사악한.  “우리는 더 이상 '보는 것이 믿는 것이다', '내 귀로 들었다', 심지어는 자녀의 목소리도 믿을 수 없습니다."   DeStefano는 딸이 납치되지 않았다는 사실을 알고 경찰에 신고했지만 경찰은 장난전화일 뿐 실제 납치나 돈 교환은 없었기 때문에 할 수 있는 일이 거의 없다고 말했습니다.  “   ?” 그녀는 질문했다. 이것이 우리의 새로운 표준인가요  “   ?” 이것이 결과와 규제 없이 인공 지능의 남용을 가능하게 함으로써 우리가 만들고 있는 미래입니까  “   .” 통제되지 않고, 규제되지 않고, 아무런 결과도 없이 보호받지 못한 채 방치된다면 무엇이 진실이고 무엇이 진실이 아닌지에 대한 우리의 이해와 인식이 다시 쓰여질 것입니다  개회 발언에 이어 DeStefano는 청문회가 끝날 때까지 심문을 요청받지 않고 "모든 AI가 악한 것은 아니다"라고 반복했으며 사람들의 삶을 개선할 수 있는 "AI의 희망적인 발전"이 많이 있다고 반복했습니다.   https://twitter.com/TimHinchliffe/status/1654148049302585346?s=20&embedable=true  DeStefano는 AI를 끔찍한 방식으로 사용하는 악의적인 행위로 인해 발생하는 의미 있는 피해를 명확하게 설명했지만   수석 경제학자 Michael Schwarz는 지난 5월 세계경제포럼(WEF)   말했습니다. Microsoft 에서 의미 있는 피해가 발생할 때까지 AI를 규제해서는 안 된다고   “가상의 시나리오가 아닌 실제로 발생하는 의미 있는 피해를 확인할 때까지 AI를 규제해서는 안 됩니다.”  WEF 성장 서밋 2023에 참석한 Microsoft 수석 경제학자 Michael Schwarz  WEF 성장 서밋 2023에서 "   " 패널에서 Microsoft의 Michael Schwarz는 AI에 관해서는 나쁜 일이 발생할 때까지 이를 규제하지 않는 것이 가장 좋을 것이라고 주장했습니다. 잠재적으로 더 큰 이점을 억제합니다. 성장 핫스팟: 생성적 AI 혁명 활용  “   ”라고 Schwarz는 WEF 패널에게 말했습니다. 저는 AI가 악의적인 행위자에 의해 사용될 것이라고 확신합니다. 그렇습니다. 실제 피해를 입힐 수 있습니다. 그렇습니다. 우리는 매우 조심하고 경계해야 합니다  생성 AI 규제에 관해 질문을 받았을 때 Microsoft의 수석 경제학자는 다음과 같이 설명했습니다.  “AI 규제에 대한 우리의 철학은 무엇이어야 합니까? 분명히 우리는 그것을 규제해야 하며, 거기에 대한 나의 철학은 매우 간단하다고 생각합니다.  “   . 목욕물과 함께 아기를 버리지 않도록 AI를 규제해야 합니다  “그래서 규제는 추상적인 원칙에 기초해서는 안 된다고 생각합니다.  “경제학자로서 저는 효율성을 좋아합니다. 따라서 먼저   .”라고 그는 덧붙였습니다. 가상의 시나리오가 아니라 실제로 일어나고 있는 의미 있는 피해를 확인할 때까지 AI를 규제해서는 안 됩니다    에 따르면 2023년 1월 23일 Microsoft는 ChatGPT의 창시자인   "Microsoft가 2019년에 OpenAI에 쏟아 부은 10억 달러와 2021년에 또 다른 라운드에   ."라고 밝혔습니다. Bloomberg OpenAI와의 파트너십을 확장하여 추가로 100억 달러를 투자했습니다  이 기사는 원래   가  Tim Hinchliffe The Sociable에 게시했습니다.

Hot off the press! This story contains factual information about a recent event.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch before making any investment decisions or decisions regarding your health or security. (Do not regard any of this content as professional investment advice, or health advice)

악성 인공지능으로 딥페이크 납치 사기 가능

About Author

코멘트

태그 걸기

이 기사는 다음에서 발표되었습니다.

Related Stories

HackerNoon 글쓰기 대회에서 우승하고 싶으신가요? #crypto-api 대회 우승자들이 추천하는 내용은 다음과 같습니다.

보이지 않는 레이어: 사용자 인터뷰가 대체할 수 없는 자산인 이유

디지털 유목민 들어보기: 태국의 새로운 DTV 비자에 대해 알아야 할 사항

사용자 중심의 암호화 제품 만들기: 고객 피드백의 중요성

HackerNoon 글쓰기 대회에서 우승하고 싶으신가요? #crypto-api 대회 우승자들이 추천하는 내용은 다음과 같습니다.

보이지 않는 레이어: 사용자 인터뷰가 대체할 수 없는 자산인 이유

디지털 유목민 들어보기: 태국의 새로운 DTV 비자에 대해 알아야 할 사항

사용자 중심의 암호화 제품 만들기: 고객 피드백의 중요성

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps