Hej, „Ako možeš da sanjaš, možeš da uradiš“, zar ne? Pa, pisci znanstvene fantastike i vizionari su to zamišljali decenijama, a evo nas. pomalo zbunjena deca, nisu baš sigurna da li je Deda Mraz ispred nas stvaran. Human imagination is a tricky thing. Сваког дана радим да бисмо били сигурни да нам неуронске мреже служе – у играма, у блоцкцхаин-у и даље. И шта је још застрашујуће? готово је немогуће рећи ове лажне ствари осим стварне ствари. Te iste mreže mogu ukrasti vaše lice, vaš glas, čak i vašu reputaciju. Deepfakes su veoma stvarni, a ovo nije epizoda "Black Mirror".Možemo ići toliko daleko da digitalno reproduciramo i duplikujemo ljude, na praktično neponovljiv način.Ironično, ono što nam je potrebno da se borimo protiv deepfakes su drugi AI agenti. Fighting Fire With Fire, Or The Ironic Loop Of AI Realism Борба против ватре са ватром, или иронична петља АИ реализма До 2025. године, дубоки реализам је достигао потпуно нови ниво.== Трка у наоружању између генератора ИИ и детектора постала је кључна криза поверења, са сваким напретком у генерацији који превазилази наше најбоље одбране. Најсавременији модели дифузије и алати од текста до видеа (мислимо Сора клонове, ХеиГен, или Д-ИД) сада олакшавају генерисање ултра-реалистичних лажних видео записа из само једне поруке.Ова технологија је већ ушла у неочекивана места као што је Веб3: преваранти су користили дубоке факе крипто оснивача да промовишу продају лажних токена, па чак и приколице за игре могу бити фалсификоване да хипе непостојеће пројекте. У међувремену, Биг Тецх се бори да настави. Гоогле Циљ је да невидљиво означи слике које генерише АИ, док ТруЦхецк ДеепМинда обећава проверу аутентичности у реалном времену за видео снимке. SynthID 2.0 Синхронизација 2.0 Али проблем је јак: обучавамо АИ да разоткрије АИ, али до тренутка када научи, други модел је већ бољи у лажи.То је игра мачке и миша - онај где је наш осећај стварности игралиште.У доба дубоких факова, велико питање није да ли можете веровати ономе што видите, већ колико дуго можете веровати својим очима. Detection ≠ Solution. We Need Faster Learning Убедљива лажна је сложена мешавина суптилних фактора: кретање очију, микро-изрази лица, текстура коже, па чак и мале нескладности између синхронизације усана и аудио. Deepfake detection isn’t as simple as spotting one obvious glitch. Не постоји таква ствар као универзални детектор дубоких фалсификата - сваки АИ модел је само добар као и скуп података на којем је обучен.На пример, Мета-ов ИИ ИА Инспецтор је прилагођен за слике, али може пропустити видео или аудио фалсификовање направљено са напредним моделима дифузије као што су Рунваи Гена-3 или Сора. Pokazali su kako neki detektori ne uspeju kada se lažna rezolucija ili kompresija promene – znakovi pričanja nestaju.Zato mnogi stručnjaci tvrde da detekcija ne može da se oslanja samo na „vizualno nagađanje“.Potrebni su nam metapodatci – kriptografski vodometi ili skriveni potpisi ugrađeni tokom generacije, kao što to čini Google SynthID. Истраживачи на МИТ Истраживачи на МИТ Али чак и ови водени знаци могу бити исечени или измењени. Узимање? Уочавање дубоких факова није о ухватити један недостатак - то је о ухватити заједно десетине трагова и доказати аутентичност пре него што фалсификати могу постати вирусни.У овој трци за оружје АИ, метаподаци могу бити наша последња линија одбране против света у којем ништа не верујемо и сумњамо у све. No Deepfake Shall Pass. How Companies Keep the Fakes Out Када се дубоки факови могу појавити било где, од лажних АМА видео записа до лажних приколица за игре, компаније су приморане да играју дигиталне телохранитеље 24/7. Многи студији и Веб3 пројекти сада прегледају кориснички генерисани садржај (УГЦ) од играча и утицаја, дуплирајући сваки клип за знакове манипулације АИ. Неки иду даље у игрању дубоког голија, комбинујући ИИ детекторе са ознакама порекла подржаним блоцкцхаин-ом, као што је Ц2ПА (Коалиција за порекло садржаја и аутентичност). Студији сада аутентификују званичне говорне и видео изјаве за велике најаве, приколице и уживо АМА да зауставе дубоко лажне ПР катастрофе пре него што се дешавају. Verification isn’t just for assets. Компаније као што су Адобе, Мицрософт и Сони су се придружиле иницијативи Ц2ПА да промовишу стандарде широм индустрије, осигуравајући да креатори и играчи могу да верују да је "овај садржај прави посао". То је речено, слојевита одбрана је наша најбоља опклада против окружења у којем је поверење стално под опсадом.У овој игри, порука је једноставна: ако ваша заједница зна извор, они могу да верују ономе што виде. However, it’s not a silver bullet. Watermarks can be removed, and detection can fail. Future-Proofing Our Eyes: Trust, But Verify — Then Verify Again Будућност-доказ наших очију: верујте, али проверите - онда поново проверите Будућност дубоких фалсификата није само о бољој технологији. Ради се о редефинисању самог поверења. До 2026. године, садржај генерисан АИ-ом је спреман да доминира онлине пејзажом и дезинформацијом.Аналитичари из ООДА Лооп и други предвиђају да до 2026. године чак 90% онлине садржаја може бити синтетички генерисано АИ. „У већини случајева, синтетички медији се генеришу за игре, за побољшање услуга или за побољшање квалитета живота“, наводи се у извештају, „али повећање синтетичких медија и побољшане технологије довело је до могућности дезинформације“. Prema novom izveštaju Prema novom izveštaju "На дневној основи, људи се ослањају на сопствену перцепцију како би их водили и рекли им шта је стварно и шта није", наставили су истраживачи. Како синтетички медији постају јефтинији и лакши за израду, са моделима од текста до видеа као што су Сора или Рунваи који се побољшавају сваког месеца, наша одбрана неће бити да у потпуности забранимо фалсификовање (што је немогуће). Уместо тога, потребна нам је читава нова култура дигиталне верификације. Неке стартапе граде плуг-ине за претраживаче који обележавају сумњиве дубоке факе у реалном времену.Главне платформе могу ускоро усвојити подразумеване ознаке порекло садржаја, тако да корисници знају одакле долази сваки клип. Морамо научити јавност да паузира и пита: Као што је један истраживач рекао, У доба ИИ илузија, разумна сумња може бити наш највећи штит. “Who made this? How do I know?” “We can’t stop deepfakes. But we can help the world spot them faster than they can be weaponized.” Mnogo toga treba reći na kraju. Deepfakes više nisu znanstvena fantastika; oni su današnja realnost. Kako alatke za generaciju AI postaju snažnije, odgovornost za zaštitu poverenja pada na kompanije i korisnike. Da, oni koji grade ove neuronske mreže moraju da vode put robusnim zaštitnim mehanizmima, transparentnim alatkama za poreklo i univerzalnim standardima. Ali i korisnici moraju da ostanu budni i traže odgovornost. Ako želimo budućnost u kojoj možemo ponovo da verujemo svojim očima, na svakome – kreatorima, kompanijama i zajednicama – da autentičnost učini podrazumevanim. На крају крајева, ако градите будућност, уверите се да је она онај где истина још увек стоји шанса. 
 
 Извор слике овде. Извор слике овде.

2022 - HackerNoon Contributor of the Year - Cryptocurrency

2022 - HackerNoon Contributor of the Year - Digital Transformation

2022 - HackerNoon Contributor of the Year - Jobs

Follow me on Twitter! 

Nominated for 2022 - HackerNoon Contributor of the Year - Jobs

Nominated for 2022 - HackerNoon Contributor of the Year - Digital Transformation

Nominated for 2022 - HackerNoon Contributor of the Year - Cryptocurrency

Овај аудио је произведен на оригиналном језику приче!

Deepfake Detection: Neuralne mreže se bore same sa sobom

About Author

КОМЕНТАРИ

ХАНГ ТАГС

ОВАЈ ЧЛАНАК ЈЕ ПРЕДСТАВЉЕН У

Related Stories

Sravana Kumar Reddy Yeruva’s Fusion Transformation Sets a New Standard in ERP Excellence

Leadership Success Story: Srinath Muralinathan's Transformative Projects at Amazon

Building a website with React and Bulma

Scaling Web Testing with Automation: Srikanth Srinivas’s Digital Strategy Breakthrough

Sravana Kumar Reddy Yeruva’s Fusion Transformation Sets a New Standard in ERP Excellence

Leadership Success Story: Srinath Muralinathan's Transformative Projects at Amazon

Building a website with React and Bulma

Scaling Web Testing with Automation: Srikanth Srinivas’s Digital Strategy Breakthrough

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps