Ей, „Ако можеш да мечтаеш, можеш да го направиш“, нали? Е, писателите на научна фантастика и визионерите си представят това от десетилетия, а тук сме. Малко объркани деца, не съвсем сигурни дали Дядо Коледа пред нас е реален. Human imagination is a tricky thing. Всеки ден работя, за да се уверя, че невронните мрежи ни служат - в игрите, в блокчейн и извън него. И какво е още по-страшно?Почти невъзможно е да се разкажат тези фалшификати, освен истинското. Тези мрежи могат да откраднат лицето ви, гласа ви, дори репутацията ви. Deepfakes са много реални и това не е епизод на "Черно огледало".Ние можем да отидем толкова далеч, че да възпроизвеждаме и дублираме хора цифрово, по почти неоткриваем начин.Ирония е, че това, което трябва да се борим с deepfakes, са други агенти на AI. Fighting Fire With Fire, Or The Ironic Loop Of AI Realism Борбата с огъня с огъня или ироничният ход на реализма на AI До 2025 г. дълбокият реализъм е достигнал съвсем ново ниво.== Надпреварата във въоръжаването между генераторите на изкуствен интелект и детекторите се превърна в ключова криза на доверието, като всеки напредък в поколението надхвърля нашите най-добри защити. Най-съвременните модели за разпространение и текстови към видео инструменти (помислете за Sora клони, HeyGen или D-ID) сега улесняват генерирането на ултра-реалистични фалшиви видеоклипове от просто едно съобщение.Тази технология вече е проникнала в неочаквани места като Web3: измамниците са използвали дълбоки фалшификати на основателите на крипто, за да стимулират продажбите на фалшиви токени, а дори и игралните ремаркета могат да бъдат фалшифицирани, за да хипнат несъществуващи проекти. Междувременно, Big Tech се бори да се придържа. на Google Целта е да се маркират изображенията, генерирани от AI, невидимо, докато TruCheck на DeepMind обещава проверки на автентичността в реално време за видеоклипове. Съвпадение 2.0 Съвпадение 2.0 Но проблемът е ярък: обучаваме AI да разкрие AI, но към момента, в който той се научи, друг модел вече е по-добър в лъжата.Това е игра на котка и мишка - една, където нашето чувство за реалност е игралното поле.В епохата на дълбоките фалшификати, основният въпрос не е дали можете да се доверите на това, което виждате, но колко дълго можете да се доверите на очите си изобщо. Detection ≠ Solution. We Need Faster Learning Убедителният фалшификат е сложна комбинация от фини фактори: движение на очите, микроизражения на лицето, текстура на кожата и дори малки несъответствия между синхронизирането на устните и аудиото. Deepfake detection isn’t as simple as spotting one obvious glitch. Няма такова нещо като универсален детектор на дълбоки фалшификати - всеки модел на AI е само толкова добър, колкото набора от данни, върху който е обучен. например, AI Image Inspector на Meta е настроена за изображения, но може да липсва видео или аудио фалшификати, направени с усъвършенствани модели за разпространение като Runway Gen-3 или Sora. Ето защо много експерти твърдят, че откриването не може да се разчита само на „визуално гадаене“.Ние се нуждаем от метаданни – криптографски водни знаци или скрити подписи, вградени по време на поколението, както прави SynthID на Google. Изследователи от MIT Изследователи от MIT Но дори и тези водни знаци могат да бъдат нарязани или променени.Откриването на дълбоки фалшификати не е за улавяне на един-единствен недостатък - това е за събиране на десетки улики и доказване на автентичността, преди фалшификатите да станат вирусни. No Deepfake Shall Pass. How Companies Keep the Fakes Out Когато deepfakes могат да се появят навсякъде, от фалшиви AMA видеоклипове до фалшиви игрални ремаркета, компаниите са принудени да играят цифрови телохранители 24/7. Много студия и Web3 проекти сега екранират потребителско генерирано съдържание (UGC) от играчи и влиятели, като двойно проверяват всеки клип за признаци на манипулиране на AI. Някои отиват по-далеч в ролята на глупав голмайстор, съчетавайки детекторите на AI с тагове за произход, поддържани от блокчейн, като C2PA (Коалиция за произход и автентичност на съдържанието).Няколко проекти на NFT дори издават "сертификати за автентичност" за активи в играта, поставяйки репутацията си на прозрачност. Студиите сега удостоверяват официалните гласови изказвания и видео изявления за големи съобщения, трейлъри и живи AMAs, за да спрат дълбоките PR катастрофи, преди да се случат. Verification isn’t just for assets. Компании като Adobe, Microsoft и Sony се присъединиха към инициативата C2PA, за да насърчат стандартите в цялата индустрия, като гарантират, че създателите и играчите могат да се доверят, че "това съдържание е истинската сделка". В тази игра посланието е просто: ако вашата общност знае източника, те могат да вярват на това, което виждат. However, it’s not a silver bullet. Watermarks can be removed, and detection can fail. Future-Proofing Our Eyes: Trust, But Verify — Then Verify Again Проверка на бъдещето: Доверете се, но проверете - след това проверете отново Бъдещето на дълбоките фалшификати не е само за по-добри технологии. Става дума за предефиниране на самото доверие. До 2026 г. съдържанието, генерирано от AI, е готово да доминира в онлайн пейзажа и дезинформацията.Анализатори от OODA Loop и други прогнозират, че до 2026 г. 90% от онлайн съдържанието може да бъде синтетично генерирано от AI. „В повечето случаи синтетичните медии се генерират за игри, за подобряване на услугите или за подобряване на качеството на живот“, се казва в доклада, „но нарастването на синтетичните медии и подобрените технологии са довели до възможности за дезинформация“. Според нов доклад Според нов доклад „Всеки ден хората се доверяват на собственото си възприятие, за да ги ръководят и да им кажат какво е реално и какво не е“, продължават изследователите. „Аудиторските и визуалните записи на едно събитие често се третират като истинско описание на едно събитие. Тъй като синтетичните медии стават по-евтини и по-лесни за създаване, като текстови към видео модели като Sora или Runway се подобряват всеки месец, нашата защита няма да бъде да забраняваме фалшификатите напълно (това е невъзможно). Някои стартиращи компании изграждат браузърни плъгини, които означават подозрителни дълбоки фалшификати в реално време.Големите платформи скоро могат да приемат стандартни тагове за произход на съдържанието, така че потребителите да знаят откъде идва всеки клип. Трябва да научим хората да пазят и да питат: Както твърди един изследовател, В епохата на ИИ илюзиите, разумното съмнение може да бъде нашият най-голям щит. “Who made this? How do I know?” “We can’t stop deepfakes. But we can help the world spot them faster than they can be weaponized.” Има много какво да се каже в заключение. Deepfakes вече не са научна фантастика; те са днешната реалност. Тъй като инструментите за генериране на AI стават по-мощни, отговорността за защита на доверието пада върху компаниите, както и върху потребителите. Да, тези, които изграждат тези невронни мрежи, трябва да водят пътя с надеждни гаранции, прозрачни инструменти за произход и универсални стандарти. В края на краищата, ако изграждате бъдещето, уверете се, че е там, където истината все още има шанс. 
 
 Източник на изображението тук. Източник на изображението . тук

2022 - HackerNoon Contributor of the Year - Cryptocurrency

2022 - HackerNoon Contributor of the Year - Digital Transformation

2022 - HackerNoon Contributor of the Year - Jobs

Follow me on Twitter! 

Nominated for 2022 - HackerNoon Contributor of the Year - Jobs

Nominated for 2022 - HackerNoon Contributor of the Year - Digital Transformation

Nominated for 2022 - HackerNoon Contributor of the Year - Cryptocurrency

Това аудио е създадено на оригиналния език на историята!

Deepfake Detection: Невронните мрежи се борят със себе си

About Author

КОМЕНТАРИ

ЗАКАЧВАЙТЕ ЕТИКЕТИ

ТАЗИ СТАТИЯ Е ПРЕДСТАВЕНА В

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps