Hey, "Jika anda boleh bermimpi, anda boleh melakukannya," betul? Well, penulis fiksi sains dan penglihatan telah membayangkan ini selama beberapa dekad, dan di sini kita. kanak-kanak agak bingung, tidak benar-benar pasti sama ada Santa di hadapan kita adalah sebenar. janggutnya kelihatan putih, perutnya ada, hadiah, dan dia kelihatan cukup baik ... Tetapi bolehkah kita percaya mata kita, atau telinga kita, untuk perkara itu? Human imagination is a tricky thing. Setiap hari, saya bekerja untuk memastikan rangkaian saraf berkhidmat kepada kita – dalam permainan, dalam blockchain, dan seterusnya. Dan apa lagi yang lebih menakutkan?Ia hampir mustahil untuk memberitahu palsu ini selain perkara sebenar. rangkaian yang sama boleh mencuri wajah anda, suara anda, bahkan reputasi anda. Deepfakes sangat nyata, dan ini bukan satu episod "Black Mirror". kita boleh pergi sejauh untuk mewujudkan semula dan menyalin orang secara digital, dengan cara yang hampir tidak boleh diikuti. Ironiknya, apa yang kita perlukan untuk memerangi deepfakes adalah agen AI lain. Fighting Fire With Fire, Or The Ironic Loop Of AI Realism Melawan Api Dengan Api, Atau Lompatan Ironik Realisme AI Pada tahun 2025, realisme deepfake telah mencapai tahap yang sama sekali baru.== Perlumbaan senjata antara generator AI dan detektor telah menjadi krisis kepercayaan utama, dengan setiap kemajuan dalam generasi melebihi pertahanan terbaik kita. Model penyebaran canggih dan alat-alat teks-ke-video (pikirkan klon Sora, HeyGen, atau D-ID) kini memudahkan untuk menghasilkan video palsu ultra-realistik dari sekadar petunjuk. teknologi ini telah merebak ke tempat-tempat yang tidak dijangka seperti Web3: penipu telah menggunakan deepfakes pengasas kripto untuk mendorong jualan token palsu, dan bahkan trailer permainan boleh dipalsukan untuk menghiburkan projek-projek yang tidak wujud. Sementara itu, Big Tech bergelut untuk terus berterusan. Google bertujuan untuk watermark imej yang dihasilkan oleh AI secara tidak kelihatan, manakala TruCheck DeepMind menjanjikan pemeriksaan keaslian masa nyata untuk video. Penyampaian 2.0 Penyampaian 2.0 Tetapi masalahnya adalah tajam: kami melatih AI untuk mendedahkan AI, tetapi pada masa ia belajar, model lain sudah lebih baik berbohong.Ini adalah permainan kucing dan tikus - satu di mana rasa realiti kita adalah tempat bermain. Detection ≠ Solution. We Need Faster Learning Sebuah palsu yang meyakinkan adalah campuran yang kompleks daripada faktor-faktor halus: pergerakan mata, mikro-ekspresi muka, tekstur kulit, dan juga ketidaksamaan kecil antara sinkronisasi bibir dan audio. Deepfake detection isn’t as simple as spotting one obvious glitch. Tiada apa-apa seperti pengesan deepfake universal - setiap model AI hanya baik seperti set data yang dilatih. contohnya, Meta's AI Image Inspector disesuaikan untuk imej, tetapi ia mungkin terlepas video atau audio palsu yang dibuat dengan model diffusion canggih seperti Runway Gen-3 atau Sora. telah menunjukkan bagaimana sesetengah detektor gagal apabila resolusi palsu atau kompresi berubah - tanda-tanda bercakap hilang. itulah sebabnya ramai pakar berpendapat pengesanan tidak boleh bergantung kepada hanya "pandangan visual."Kami memerlukan metadata - tanda air kriptografi atau tanda-tanda tersembunyi yang dimasukkan semasa penciptaan, seperti yang dilakukan oleh SynthID Google. Penyelidik di MIT Penyelidik di MIT Tetapi walaupun tanda-tanda air ini boleh dipotong atau diubahsuai.Mengesan deepfakes bukan tentang menangkap satu kelemahan sahaja - ia adalah tentang mengumpulkan puluhan petunjuk dan membuktikan keaslian sebelum penipuan boleh menjadi viral. No Deepfake Shall Pass. How Companies Keep the Fakes Out Apabila deepfakes boleh muncul di mana-mana, dari video AMA palsu kepada trailer permainan palsu, syarikat-syarikat dipaksa untuk memainkan bodyguards digital 24/7. Ramai studio dan projek Web3 kini memindai kandungan yang dihasilkan oleh pengguna (UGC) daripada pemain dan influencer, memeriksa setiap klip untuk tanda-tanda penyalahgunaan AI. Sesetengah pergi lebih jauh dalam bermain golie deepfake, menggabungkan detektor AI dengan tag asal yang disokong oleh blockchain, seperti C2PA (Koalition for Content Provenance and Authenticity). Studi sekarang mengesahkan suara rasmi dan pernyataan video untuk pengumuman besar, trailer, dan AMA hidup untuk menghentikan bencana PR mendalam sebelum mereka berlaku. Verification isn’t just for assets. Syarikat-syarikat seperti Adobe, Microsoft, dan Sony telah menyertai inisiatif C2PA untuk mendorong piawaian industri, memastikan pencipta dan pemain sama-sama boleh percaya bahawa "konten ini adalah kesepakatan sebenar." Itu dikatakan, pertahanan berlapis adalah pertaruhan terbaik kami terhadap persekitaran di mana kepercayaan sentiasa berada di bawah pengepungan. dalam permainan ini, mesejnya mudah: jika masyarakat anda tahu sumber, mereka boleh percaya apa yang mereka lihat. However, it’s not a silver bullet. Watermarks can be removed, and detection can fail. Future-Proofing Our Eyes: Trust, But Verify — Then Verify Again Pengesahan Masa Depan Mata Kita: Percayalah, Tetapi Semak - Kemudian Semak Lagi Masa depan deepfakes bukan sahaja tentang teknologi yang lebih baik. Ia adalah tentang mendefinisikan semula kepercayaan itu sendiri. Pada tahun 2026, kandungan yang dihasilkan oleh AI akan mendominasi lanskap dan desinformasi dalam talian. Analis dari OODA Loop dan lain-lain meramalkan bahawa pada tahun 2026, sebanyak 90% kandungan dalam talian mungkin dihasilkan secara sintetik oleh AI. “Dalam kebanyakan kes, media sintetik dihasilkan untuk permainan, untuk meningkatkan perkhidmatan atau untuk meningkatkan kualiti hidup,” laporan itu membaca, “tetapi peningkatan media sintetik dan teknologi yang lebih baik telah menimbulkan kemungkinan desinformasi.” Menurut laporan baru Menurut laporan baru “Pada dasar harian, orang mengandalkan persepsi mereka sendiri untuk membimbing mereka dan memberitahu mereka apa yang sebenar dan apa yang tidak,” penyelidik meneruskan. Sebagai media sintetik menjadi lebih murah dan lebih mudah untuk dibuat, dengan model teks-ke-video seperti Sora atau Runway meningkatkan setiap bulan, pertahanan kami tidak akan melarang penipuan sepenuhnya (yang tidak mungkin). Sesetengah start-up sedang membina plug-in pelayar yang menandakan dugaan deepfakes dalam masa nyata. platform utama mungkin segera mengamalkan tag asal kandungan lalai, supaya pengguna tahu di mana setiap klip berasal. Kita perlu mengajar orang ramai untuk berehat dan bertanya: Seperti yang dikatakan oleh seorang penyelidik, Dalam zaman ilusi AI, keraguan yang munasabah boleh menjadi perisai terbesar kita. “Who made this? How do I know?” “We can’t stop deepfakes. But we can help the world spot them faster than they can be weaponized.” Terdapat banyak yang boleh dikatakan dalam kesimpulan. Deepfakes bukan lagi sci-fi; mereka adalah realiti hari ini. Apabila alat-alat pengeluaran AI menjadi lebih berkuasa, tanggungjawab untuk melindungi kepercayaan jatuh kepada syarikat-syarikat dan pengguna. Ya, mereka yang membina rangkaian saraf ini mesti memimpin jalan dengan perlindungan yang kukuh, alat-alat asal yang transparan, dan piawaian universal. tetapi pengguna juga mesti berjaga-jaga dan menuntut tanggungjawab. Selepas semua, jika anda membina masa depan, pastikan ia di mana kebenaran masih mempunyai peluang. 
 
 Sumber imej di sini. Sumber imej yang diperkenalkan . di sini

2022 - HackerNoon Contributor of the Year - Cryptocurrency

2022 - HackerNoon Contributor of the Year - Digital Transformation

2022 - HackerNoon Contributor of the Year - Jobs

Follow me on Twitter! 

Nominated for 2022 - HackerNoon Contributor of the Year - Jobs

Nominated for 2022 - HackerNoon Contributor of the Year - Digital Transformation

Nominated for 2022 - HackerNoon Contributor of the Year - Cryptocurrency

Audio ini dihasilkan dalam bahasa asal cerita!

Pengesanan Deepfake: Rangkaian Neural Berjuang Sendiri

About Author

KOMEN

GANTUNG TANDA

ARTIKEL INI DIBENTANGKAN DALAM

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps