Đầu năm nay, bà mẹ Jennifer DeStefano ở Scottsdale, Arizona đã trải qua một nỗi kinh hoàng mà không người mẹ nào phải đối mặt - đó là giọng nói thổn thức của con gái bà rằng cô đã bị bắt cóc.  Nhưng đó không phải là con gái của cô trên điện thoại. Đó là một   AI thuyết phục đến mức DeStefano đã sẵn sàng giao 50 nghìn đô la cho những kẻ lừa đảo, những kẻ nói với cô rằng chúng sẽ giết con gái cô nếu cô không trả tiền. trò deepfake  Hôm nay, DeStafano đã có một lời khai chân thành trước Thượng viện Hoa Kỳ về việc chuyển tiếp câu chuyện đau lòng và đáng sợ của cô cho   . Tiểu ban Tư pháp về Nhân quyền và Luật pháp   https://twitter.com/SenOssoff/status/1668702476122615813?s=20&embedable=true   “Hình thức khủng bố này không bị trừng phạt càng lâu thì nó càng trở nên nghiêm trọng hơn. Không có giới hạn nào về độ sâu của ác quỷ mà AI có thể kích hoạt”  DeStefano cho biết: “   đang được vũ khí hóa để không chỉ gây ra nỗi sợ hãi và kinh hoàng trong công chúng Mỹ mà còn trong cộng đồng toàn cầu nói chung khi nó tận dụng và xác định lại những gì chúng ta quen thuộc”. Trí tuệ nhân tạo  Cô ấy nói thêm: “AI đang cách mạng hóa và làm sáng tỏ nền tảng cấu trúc xã hội của chúng ta bằng cách tạo ra sự nghi ngờ và sợ hãi đối với những gì chưa bao giờ được đặt câu hỏi - âm thanh giọng nói của một người thân yêu.  Sau khi kể lại   với những kẻ lừa đảo bắt cóc và tống tiền mà cô đã kể cho   vào tháng 4, bà mẹ Arizona đã giải thích bản sao giọng nói deepfake thực sự như thế nào: câu chuyện về trải nghiệm kinh hoàng của mình AZ Family  “   .” Đó là giọng nói của con gái tôi. Đó là tiếng khóc của cô ấy; đó là tiếng nức nở của cô ấy. Đó là cách cô ấy nói. Tôi sẽ không bao giờ có thể rũ bỏ được giọng nói đó và tiếng kêu cứu tuyệt vọng ra khỏi tâm trí tôi    “ “Chúng ta không còn có thể tin vào 'thấy là tin' hay 'Ta đã nghe thấy tận tai' hay thậm chí là giọng nói của chính con bạn  Nói về tương lai của trí tuệ nhân tạo được sử dụng cho các mục đích bất chính, DeStefano cảnh báo: “   .” Hình thức khủng bố này càng không thể bị trừng phạt càng lâu thì nó sẽ càng trở nên nghiêm trọng hơn. Không có giới hạn nào về độ sâu của AI xấu xa có thể kích hoạt  Cô ấy tiếp tục nói: “Khi thế giới của chúng ta chuyển động với tốc độ nhanh như chớp, yếu tố quen thuộc của con người đặt nền tảng cho kết cấu xã hội của chúng ta về những gì được biết và đâu là sự thật đang được cách mạng hóa với AI - một số vì lợi ích và một số vì lợi ích. độc ác.  “Chúng ta không còn có thể tin vào 'thấy là tin' hay 'Tôi nghe thấy tận tai' hay thậm chí là giọng nói của chính con bạn.”   Khi DeStefano phát hiện ra rằng con gái mình không bị bắt cóc, cô ấy đã gọi cảnh sát, nhưng họ nói với cô ấy rằng họ không thể làm được gì nhiều vì đó chỉ là một cuộc gọi chơi khăm và không có vụ bắt cóc hay trao đổi tiền nào thực sự.  “   ?” cô hỏi. Đây có phải là điều bình thường mới của chúng ta không  “   ?” Đây có phải là tương lai mà chúng ta đang tạo ra bằng cách cho phép lạm dụng trí tuệ nhân tạo mà không có hậu quả và không có quy định  “   .” Nếu không được kiểm soát, không được kiểm soát và chúng ta không được bảo vệ mà không có hậu quả, nó sẽ viết lại sự hiểu biết và nhận thức của chúng ta về điều gì là sự thật và điều gì không phải là sự thật  Sau phần phát biểu khai mạc của mình, DeStefano sẽ không bị triệu tập để thẩm vấn cho đến khi kết thúc phiên điều trần, nơi cô ấy nhắc lại rằng “không phải tất cả AI đều xấu xa” và rằng có rất nhiều “tiến bộ đầy hy vọng trong AI” có thể cải thiện cuộc sống của con người.   https://twitter.com/TimHinchliffe/status/1654148049302585346?s=20&embedable=true  Mặc dù DeStefano đã vạch ra rõ ràng tác hại có ý nghĩa phát sinh từ việc những kẻ xấu sử dụng AI theo những cách đáng sợ, nhà kinh tế trưởng Michael Schwarz   đã nói với Diễn đàn Kinh tế Thế giới (WEF) vào tháng 5 rằng   . của Microsoft AI không nên được điều chỉnh cho đến khi có tác hại có ý nghĩa   “Chúng ta không nên điều chỉnh AI cho đến khi chúng ta thấy một số tác hại có ý nghĩa đang thực sự xảy ra — không phải là những viễn cảnh tưởng tượng”  Nhà kinh tế trưởng của Microsoft Michael Schwarz tại Hội nghị thượng đỉnh về tăng trưởng của WEF 2023  Phát biểu tại Hội nghị thượng đỉnh về tăng trưởng của WEF năm 2023 trong một hội thảo về “   ”, Michael Schwarz của Microsoft lập luận rằng khi nói đến AI, tốt nhất là không nên điều chỉnh nó cho đến khi có điều gì đó tồi tệ xảy ra, để không triệt tiêu những lợi ích tiềm năng lớn hơn. Điểm nóng tăng trưởng: Khai thác cuộc cách mạng AI sáng tạo  “   ,” Schwarz nói với hội thảo WEF. Tôi khá tự tin rằng có, AI sẽ được sử dụng bởi những kẻ xấu; và vâng, nó sẽ gây ra thiệt hại thực sự; và vâng, chúng tôi phải rất cẩn thận và rất cảnh giác  Khi được hỏi về việc điều chỉnh AI tổng quát, nhà kinh tế trưởng của Microsoft giải thích:  “Triết lý của chúng ta về việc điều chỉnh AI nên là gì? Rõ ràng, chúng ta phải điều chỉnh nó, và tôi nghĩ triết lý của tôi ở đó rất đơn giản.  “   . Chúng ta nên điều chỉnh AI theo cách mà chúng ta không vứt bỏ em bé cùng với nước tắm  “Vì vậy, tôi nghĩ rằng quy định không nên dựa trên các nguyên tắc trừu tượng.  Ông nói thêm: “Là một nhà kinh tế học, tôi thích tính hiệu quả, vì vậy trước tiên,   ”. chúng ta không nên điều chỉnh AI cho đến khi chúng ta thấy một số tác hại có ý nghĩa đang thực sự xảy ra — chứ không phải các kịch bản tưởng tượng  Vào ngày 23 tháng 1 năm 2023, Microsoft   — những người tạo ra ChatGPT —   ngoài “1 tỷ đô la Microsoft đã rót vào OpenAI vào năm 2019 và một vòng khác vào năm 2021,” theo   . đã mở rộng quan hệ đối tác với OpenAI đầu tư thêm 10 tỷ đô la Bloomberg  Bài viết này ban đầu được xuất bản bởi   trên  Tim Hinchliffe The Sociable.

Hot off the press! This story contains factual information about a recent event.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch before making any investment decisions or decisions regarding your health or security. (Do not regard any of this content as professional investment advice, or health advice)

Follow us on Twitter 

Read My Stories

Nghe bài viết này bằng Tiếng Anh, đọc bởi robot thông minh của HackerNoon

Trí tuệ nhân tạo độc hại cho phép lừa đảo bắt cóc Deepfake

About Author

BÌNH LUẬN

chuyên mục

BÀI VIẾT NÀY CŨNG CÓ MẶT TẠI

Related Stories

581 Stories To Learn About Non Fiction

94 Stories To Learn About John Locke

309 Stories To Learn About Smart Contracts

85 Stories To Learn About Travel

581 Stories To Learn About Non Fiction

94 Stories To Learn About John Locke

309 Stories To Learn About Smart Contracts

85 Stories To Learn About Travel

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps