Kemampuan AI untuk menyebarkan informasi palsu mencapai ketinggian baru yang mengkhawatirkan - mungkin bentuk yang paling mengkhawatirkan adalah senjatanya melalui deepfakes. baru-baru ini, Scarlett Johansson menyerukan larangan pada teknologi deepfake setelah sebuah video muncul online yang menampilkan versi yang dihasilkan oleh AI dari dirinya. video ini juga mencakup aktor Yahudi lainnya seperti Jerry Seinfeld dan Mila Kunis, semua mengenakan t-shirt dengan kata "Kanye" dan gambar jari tengah yang membawa Bintang David di tengahnya. yang 
 “Saya juga sangat percaya bahwa potensi pembicaraan kebencian yang diperbanyak oleh AI adalah ancaman yang jauh lebih besar daripada siapa pun yang bertanggung jawab atasnya. kita harus menyuarakan penyalahgunaan AI, terlepas dari pesan-pesan itu, atau kita berisiko kehilangan kendali atas realitas,” kata aktris itu kepada majalah People. “Saya juga sangat percaya bahwa potensi pembicaraan kebencian yang diperbanyak oleh AI adalah ancaman yang jauh lebih besar daripada siapa pun yang bertanggung jawab atasnya. kita harus menyuarakan penyalahgunaan AI, terlepas dari pesan-pesan itu, atau kita berisiko kehilangan kendali atas realitas,” kata aktris itu kepada majalah People. Orang sering beralih ke AI untuk mempercepat hal-hal, atau menciptakan sensasi, terutama di industri media. Menggunakan AI untuk membuat kutipan dan cerita palsu. Membuat cerita sensasional dengan bantuan AI sudah terbukti berbahaya. kekerasan anti-imigrasi di Inggris informasi yang salah secara online. ditangkap Lahir dari Setelah insiden tiga gadis yang secara tragis dipukuli di Inggris, para pemberontak menciptakan gambar-gambar yang dihasilkan oleh AI yang mendorong kebencian dan menyebarkan stereotip berbahaya. Kelompok ekstrem kanan juga menggunakan generator musik AI untuk membuat lagu dengan konten xenophobic. konten ini menyebar melalui aplikasi online seperti TikTok melalui algoritma rekomendasi yang efisien. Penjaga Penjaga Pada bulan Oktober, menurut Mesin pencari bertenaga AI seperti Google, Microsoft, dan Perplexity ditemukan mempromosikan rasisme ilmiah dalam hasil pencarian. Wired yang Wired yang Ingat ketika xAI Elon Musk merilis Grok-2, generator gambar menggunakan Flux dengan hampir tidak ada perlindungan? sebagai pasangan, memicu kekhawatiran yang mendalam, adalah atau ancaman berbahaya bagi demokrasi dan integritas pidato publik? Wakil Presiden Kamala Harris dan Donald Trump Kebebasan kreatif yang belum pernah terjadi sebelumnya Deepfakes dari Taylor Swift, politisi perempuan, dan anak-anak yang menjadi viral tahun lalu memaksa perusahaan teknologi untuk duduk dan memperhatikan. Henry Ajder, seorang ahli AI generatif yang telah mempelajari deepfakes selama hampir satu dekade mengatakan “Kami berada di titik konversi di mana tekanan dari anggota parlemen dan kesadaran di antara konsumen begitu besar bahwa perusahaan teknologi tidak dapat mengabaikan masalah ini lagi.” dengan algoritma yang yang “Kami berada pada titik konversi di mana tekanan dari legislator dan kesadaran di antara konsumen begitu besar bahwa perusahaan teknologi tidak dapat mengabaikan masalah ini lagi.” – Henry Ajder, pakar AI Generasi. – Henry Ajder, ahli AI Gen. “We are at an inflection point where the pressure from lawmakers and awareness among consumers is so great that tech companies can’t ignore the problem anymore.” “Kami berada di titik konversi di mana tekanan dari anggota parlemen dan kesadaran di antara konsumen begitu besar bahwa perusahaan teknologi tidak dapat mengabaikan masalah ini lagi.” “Kami berada di titik konversi di mana tekanan dari anggota parlemen dan kesadaran di antara konsumen begitu besar bahwa perusahaan teknologi tidak dapat mengabaikan masalah ini lagi.” Sebagai contoh, Google mengatakan bahwa Watermarks dan perisai perlindungan sebenarnya belum bekerja sejauh ini. tetapi peraturan sedang ditingkatkan. Misalnya, Inggris melarang baik penciptaan dan distribusi deepfakes eksplisit non-konsensual. Uni Eropa memiliki Undang-Undang AI dan Amerika Serikat telah mendorong Undang-Undang Defiance. Mengambil langkah-langkah untuk menjaga deepfakes eksplisit Begitu juga dengan startup seperti yang bergerak dan tangan yang gelombang. deepfakes hanya menjadi lebih realistis. bagaimana kita akan menghentikan sisi jahat dari ini? Synthesia menjanjikan deepfakes hiper-realistik dengan tubuh penuh AI is Aiding in Financial Fraud AI Membantu dalam Penipuan Keuangan Berita palsu yang dihasilkan AI menyebar di media sosial adalah Menurut sebuah studi Inggris baru yang mengatakan pemberi pinjaman harus meningkatkan pemantauan untuk mendeteksi kapan risiko disinformasi mempengaruhi perilaku pelanggan. Meningkatkan resiko banjir Penelitian Juniper Nilai penipuan eCommerce akan meningkat dari US$44,3 B pada 2024 menjadi US$107 B pada 2029, pertumbuhan 141%. prediksi Semua berkat AI, yang mendorong kecerdasan serangan di seluruh ekosistem eCommerce, dengan penggunaan deepfakes yang dibuat menggunakan AI untuk mengalahkan sistem verifikasi menjadi ancaman utama. ancaman ini, dikombinasikan dengan meningkatnya tingkat 'penipuan ramah', di mana penipuan dilakukan oleh pelanggan itu sendiri, seperti penipuan pengembalian dana, semakin mengancam profitabilitas pedagang. AI membantu penipu tetap di depan langkah-langkah keamanan dan melakukan serangan canggih pada skala yang lebih besar. AI juga memungkinkan serangan berkualitas tinggi dengan frekuensi yang belum pernah terjadi sebelumnya dengan menciptakan pesan yang dapat dipercaya dan identitas sintetis. Should AI be as open as the internet? Haruskah AI menjadi terbuka seperti internet? Kepala AI Meta, Yann LeCun, telah AI harus terbuka seperti internet karena pada akhirnya, semua interaksi kita dengan dunia digital akan dibiayai oleh asisten AI. LeCun menjelaskan bahwa platform seperti ChatGPT dan Llama akan membentuk repositori semua pengetahuan dan budaya manusia, menciptakan infrastruktur bersama seperti internet saat ini. mendesak https://youtu.be/Z6X6OZODzMU?embedable=true Dia “Kita tidak bisa memiliki sejumlah kecil asisten AI (OpenAI’s ChatGPT dan sejenisnya) yang mengendalikan diet digital setiap warga di seluruh dunia. ”Ini akan sangat berbahaya bagi keragaman pemikiran, untuk demokrasi, untuk hampir semuanya,” katanya. berkata Sebagai AI menjadi lebih dan lebih mirip manusia, kita harus ingat bahwa itu masih bukan manusia. seperti yang dikatakan oleh Satya Nadella dari Microsoft. AI adalah software dan tidak menampilkan kecerdasan manusia. Teknologi Bloomberg Teknologi Bloomberg "Ini memiliki kecerdasan jika Anda ingin memberikannya nama itu, tetapi itu bukan kecerdasan yang sama yang saya miliki," katanya. yang yang Navanwita Bora Sachdev, Editor, The Tech Panda Navanwita Bora Sachdev, Editor, The Tech Panda

Read My Stories

Audio ini diproduksi dalam bahasa asli cerita!

AI adalah senjata berbahaya di era informasi yang salah

About Author

KOMENTAR

HANG TAG

ARTIKEL INI DISAJIKAN PADA

Related Stories

A Beginner’s Guide to Blockchain Programming

Building an API-Powered Platform

The Crypto Trading Writing Contest: Submission Deadline Extended!

The Priory Ruins

A Beginner’s Guide to Blockchain Programming

Building an API-Powered Platform

The Crypto Trading Writing Contest: Submission Deadline Extended!

The Priory Ruins

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps