Trí tuệ nhân tạo độc hại cho phép lừa đảo bắt cóc Deepfake

Đầu năm nay, bà mẹ Jennifer DeStefano ở Scottsdale, Arizona đã trải qua một nỗi kinh hoàng mà không người mẹ nào phải đối mặt - đó là giọng nói thổn thức của con gái bà rằng cô đã bị bắt cóc.

Nhưng đó không phải là con gái của cô trên điện thoại. Đó là một trò deepfake AI thuyết phục đến mức DeStefano đã sẵn sàng giao 50 nghìn đô la cho những kẻ lừa đảo, những kẻ nói với cô rằng chúng sẽ giết con gái cô nếu cô không trả tiền.

Hôm nay, DeStafano đã có một lời khai chân thành trước Thượng viện Hoa Kỳ về việc chuyển tiếp câu chuyện đau lòng và đáng sợ của cô cho Tiểu ban Tư pháp về Nhân quyền và Luật pháp .

“Hình thức khủng bố này không bị trừng phạt càng lâu thì nó càng trở nên nghiêm trọng hơn. Không có giới hạn nào về độ sâu của ác quỷ mà AI có thể kích hoạt”

DeStefano cho biết: “ Trí tuệ nhân tạo đang được vũ khí hóa để không chỉ gây ra nỗi sợ hãi và kinh hoàng trong công chúng Mỹ mà còn trong cộng đồng toàn cầu nói chung khi nó tận dụng và xác định lại những gì chúng ta quen thuộc”.

Cô ấy nói thêm: “AI đang cách mạng hóa và làm sáng tỏ nền tảng cấu trúc xã hội của chúng ta bằng cách tạo ra sự nghi ngờ và sợ hãi đối với những gì chưa bao giờ được đặt câu hỏi - âm thanh giọng nói của một người thân yêu.

Sau khi kể lại câu chuyện về trải nghiệm kinh hoàng của mình với những kẻ lừa đảo bắt cóc và tống tiền mà cô đã kể cho AZ Family vào tháng 4, bà mẹ Arizona đã giải thích bản sao giọng nói deepfake thực sự như thế nào:

“ Đó là giọng nói của con gái tôi. Đó là tiếng khóc của cô ấy; đó là tiếng nức nở của cô ấy. Đó là cách cô ấy nói. Tôi sẽ không bao giờ có thể rũ bỏ được giọng nói đó và tiếng kêu cứu tuyệt vọng ra khỏi tâm trí tôi .”

“Chúng ta không còn có thể tin vào 'thấy là tin' hay 'Ta đã nghe thấy tận tai' hay thậm chí là giọng nói của chính con bạn “

Nói về tương lai của trí tuệ nhân tạo được sử dụng cho các mục đích bất chính, DeStefano cảnh báo: “ Hình thức khủng bố này càng không thể bị trừng phạt càng lâu thì nó sẽ càng trở nên nghiêm trọng hơn. Không có giới hạn nào về độ sâu của AI xấu xa có thể kích hoạt .”

Cô ấy tiếp tục nói: “Khi thế giới của chúng ta chuyển động với tốc độ nhanh như chớp, yếu tố quen thuộc của con người đặt nền tảng cho kết cấu xã hội của chúng ta về những gì được biết và đâu là sự thật đang được cách mạng hóa với AI - một số vì lợi ích và một số vì lợi ích. độc ác.

“Chúng ta không còn có thể tin vào 'thấy là tin' hay 'Tôi nghe thấy tận tai' hay thậm chí là giọng nói của chính con bạn.”

Khi DeStefano phát hiện ra rằng con gái mình không bị bắt cóc, cô ấy đã gọi cảnh sát, nhưng họ nói với cô ấy rằng họ không thể làm được gì nhiều vì đó chỉ là một cuộc gọi chơi khăm và không có vụ bắt cóc hay trao đổi tiền nào thực sự.

“ Đây có phải là điều bình thường mới của chúng ta không ?” cô hỏi.

“ Đây có phải là tương lai mà chúng ta đang tạo ra bằng cách cho phép lạm dụng trí tuệ nhân tạo mà không có hậu quả và không có quy định ?”

“ Nếu không được kiểm soát, không được kiểm soát và chúng ta không được bảo vệ mà không có hậu quả, nó sẽ viết lại sự hiểu biết và nhận thức của chúng ta về điều gì là sự thật và điều gì không phải là sự thật .”

Sau phần phát biểu khai mạc của mình, DeStefano sẽ không bị triệu tập để thẩm vấn cho đến khi kết thúc phiên điều trần, nơi cô ấy nhắc lại rằng “không phải tất cả AI đều xấu xa” và rằng có rất nhiều “tiến bộ đầy hy vọng trong AI” có thể cải thiện cuộc sống của con người.

Mặc dù DeStefano đã vạch ra rõ ràng tác hại có ý nghĩa phát sinh từ việc những kẻ xấu sử dụng AI theo những cách đáng sợ, nhà kinh tế trưởng Michael Schwarz của Microsoft đã nói với Diễn đàn Kinh tế Thế giới (WEF) vào tháng 5 rằng AI không nên được điều chỉnh cho đến khi có tác hại có ý nghĩa .

“Chúng ta không nên điều chỉnh AI cho đến khi chúng ta thấy một số tác hại có ý nghĩa đang thực sự xảy ra — không phải là những viễn cảnh tưởng tượng”

Nhà kinh tế trưởng của Microsoft Michael Schwarz tại Hội nghị thượng đỉnh về tăng trưởng của WEF 2023

Phát biểu tại Hội nghị thượng đỉnh về tăng trưởng của WEF năm 2023 trong một hội thảo về “ Điểm nóng tăng trưởng: Khai thác cuộc cách mạng AI sáng tạo ”, Michael Schwarz của Microsoft lập luận rằng khi nói đến AI, tốt nhất là không nên điều chỉnh nó cho đến khi có điều gì đó tồi tệ xảy ra, để không triệt tiêu những lợi ích tiềm năng lớn hơn.

“ Tôi khá tự tin rằng có, AI sẽ được sử dụng bởi những kẻ xấu; và vâng, nó sẽ gây ra thiệt hại thực sự; và vâng, chúng tôi phải rất cẩn thận và rất cảnh giác ,” Schwarz nói với hội thảo WEF.

Khi được hỏi về việc điều chỉnh AI tổng quát, nhà kinh tế trưởng của Microsoft giải thích:

“Triết lý của chúng ta về việc điều chỉnh AI nên là gì? Rõ ràng, chúng ta phải điều chỉnh nó, và tôi nghĩ triết lý của tôi ở đó rất đơn giản.

“ Chúng ta nên điều chỉnh AI theo cách mà chúng ta không vứt bỏ em bé cùng với nước tắm .

“Vì vậy, tôi nghĩ rằng quy định không nên dựa trên các nguyên tắc trừu tượng.

Ông nói thêm: “Là một nhà kinh tế học, tôi thích tính hiệu quả, vì vậy trước tiên, chúng ta không nên điều chỉnh AI cho đến khi chúng ta thấy một số tác hại có ý nghĩa đang thực sự xảy ra — chứ không phải các kịch bản tưởng tượng ”.

Vào ngày 23 tháng 1 năm 2023, Microsoft đã mở rộng quan hệ đối tác với OpenAI — những người tạo ra ChatGPT — đầu tư thêm 10 tỷ đô la ngoài “1 tỷ đô la Microsoft đã rót vào OpenAI vào năm 2019 và một vòng khác vào năm 2021,” theo Bloomberg .