Hei, "Jos voit unelmoida siitä, voit tehdä sen", oikein? No, sci-fi-kirjailijat ja visionäärit ovat kuvitelleet tämän vuosikymmeniä, ja tässä olemme. Hieman hämmentyneet lapset, eivät todellakaan ole varmoja siitä, onko edessämme oleva Joulupukki todellinen. hänen partaansa näyttää valkoiselta, vatsa on siellä, lahjat, ja hän näyttää tarpeeksi ystävälliseltä ... Mutta voimmeko luottaa silmiimme tai korviimme? Human imagination is a tricky thing. Joka päivä työskentelen varmistaakseni, että hermoverkot palvelevat meitä - pelaamisessa, lohkoketjussa ja sen ulkopuolella. Ja mikä on vielä pelottavampaa?On lähes mahdotonta kertoa näitä väärennöksiä todellisen asian lisäksi. Nämä samat verkostot voivat varastaa kasvosi, äänesi ja jopa maineesi. Deepfakes ovat hyvin todellisia, ja tämä ei ole "Black Mirror" -episodi. Voimme mennä niin pitkälle, että luodaan ja toistetaan ihmisiä digitaalisesti, käytännöllisesti katsoen jäljittämättömällä tavalla. Fighting Fire With Fire, Or The Ironic Loop Of AI Realism Taistelu tulella tulella, tai IA: n realismin ironinen kierre ==Vuoteen 2025 mennessä deepfake-realismi on saavuttanut aivan uuden tason.==AI-generaattorien ja detektorien välinen aseiden kilpailu on tullut keskeiseksi luottamuskriisiksi, ja jokainen sukupolven edistys ylittää parhaat puolustuksemme. Huippuluokan levittämismallit ja teksti-video-työkalut (ajattele Sora-kloneja, HeyGenia tai D-ID:tä) tekevät nyt helppoa luoda erittäin realistisia väärennettyjä videoita vain pyynnöstä.Tämä tekniikka on jo syöksynyt odottamattomiin paikkoihin, kuten Web3:iin: huijarit ovat käyttäneet kryptovalmisteiden perustajien syväfakseja väärennettyjen tokenien myynnin edistämiseksi, ja jopa pelien perävaunuja voidaan väärentää hyppäämään olemassa olevia hankkeita. Samaan aikaan Big Tech kamppailee pysyäksesi ajan tasalla. tavoitteena on merkitä AI-tuotettuja kuvia näkymättömästi, kun taas DeepMindin TruCheck lupaa reaaliaikaisia aitoustarkastuksia videoille. Meta on käynnistänyt AI Image Inspectorin havaitsemaan hienovaraisia manipulaatioita eri alustoilla. Yhteensopivuus 2.0 Yhteensopivuus 2.0 Mutta ongelma on jyrkkä: koulutamme AI: ta paljastamaan AI: n, mutta kun se oppii, toinen malli on jo parempi valehdella. Se on kissa- ja hiiripeli - yksi, jossa todellisuuden tunne on leikkipaikka. Deepfaken aikakaudella suuri kysymys ei ole, voitko luottaa siihen, mitä näet, vaan kuinka kauan voit luottaa silmiisi lainkaan. Detection ≠ Solution. We Need Faster Learning Uskottava väärennös on monimutkainen sekoitus hienovaraisia tekijöitä: silmien liikkeitä, kasvojen mikro-ilmeitä, ihon tekstuuria ja jopa pieniä eroja huulensynkronoinnin ja äänen välillä. Deepfake detection isn’t as simple as spotting one obvious glitch. Esimerkiksi Meta: n AI Image Inspector on räätälöity kuviin, mutta se voi jättää huomiotta video- tai audio-väärennöksiä, jotka on tehty kehittyneillä diffuusiomalleilla, kuten Runway Gen-3 tai Sora. ovat osoittaneet, miten jotkut detektorit epäonnistuvat, kun väärän resoluution tai puristuksen muutokset - kertomusmerkit katoavat.Siksi monet asiantuntijat väittävät, että havaitseminen ei voi luottaa vain "visuaaliseen arvailuun." Tarvitsemme metatietoja - salausvesimerkkejä tai piilotettuja allekirjoituksia, jotka on upotettu sukupolven aikana, kuten Googlen SynthID tekee. Tutkijat MIT Tutkijat MIT Mutta jopa nämä vesileimat voidaan korjata tai muuttaa. Ota pois? syväfaksien havaitseminen ei ole vain yhden virheen havaitsemista - se on kymmeniä vihjeitä ja todisteiden todistamista ennen kuin väärennökset voivat tulla viruksiksi. Tässä AI-aseiden kilpailussa metatiedot voivat olla viimeinen puolustuslinja maailmaa vastaan, jossa emme luota mihinkään ja epäilemme kaikkea. No Deepfake Shall Pass. How Companies Keep the Fakes Out Kun deepfakes voi ponnahtaa missä tahansa, väärennetyistä AMA-videoista vääriin peliautomaatteihin, yritykset joutuvat pelaamaan digitaalisia vartijoita 24/7. Monet studiot ja Web3-hankkeet näyttävät nyt käyttäjän tuottamaa sisältöä (UGC) pelaajilta ja vaikuttajilta, kaksinkertaisesti tarkistaen jokaisen videon merkkejä tekoälyn manipuloinnista. Jotkut menevät pidemmälle deepfake-taistelussa, yhdistämällä AI-detektoreita blockchain-tuettujen alkuperätunnisteiden kanssa, kuten C2PA (Coalition for Content Provenance and Authenticity). Studiot todentavat nyt viralliset äänikirjoitukset ja videolausunnot suurille ilmoituksille, perävaunuille ja live AMA: lle pysäyttääkseen syvälliset PR-katastrofit ennen kuin ne tapahtuvat. Verification isn’t just for assets. Yritykset kuten Adobe, Microsoft ja Sony ovat liittyneet C2PA-aloitteeseen edistääkseen alan laajuisia standardeja, varmistaen, että luojat ja pelaajat voivat luottaa siihen, että "tämä sisältö on todellinen kauppa". Se sanoi, että kerroksiset puolustukset ovat paras veto ympäristölle, jossa luottamus on jatkuvasti piirityksen alla. Tässä pelissä viesti on yksinkertainen: jos yhteisösi tietää lähteen, he voivat uskoa mitä he näkevät. However, it’s not a silver bullet. Watermarks can be removed, and detection can fail. Future-Proofing Our Eyes: Trust, But Verify — Then Verify Again Tulevaisuuden todistavat silmämme: Luota, mutta tarkista - sitten tarkista uudelleen Deepfakesin tulevaisuus ei ole vain parempaa teknologiaa. Kyse on luottamuksen uudelleenmäärittelystä. Vuoteen 2026 mennessä tekoälyn tuottama sisältö on valmis hallitsemaan online-maailmaa ja disinformaatiota. OODA Loopin ja muiden analyytikot ennustavat, että vuoteen 2026 mennessä jopa 90 prosenttia verkkosisällöstä voi syntyä synteettisesti tekoälyn avulla. ”Useimmissa tapauksissa synteettisiä tiedotusvälineitä luodaan pelaamiseen, palvelujen parantamiseen tai elämänlaadun parantamiseen”, raportissa lukee, ”mutta synteettisten tiedotusvälineiden lisääntyminen ja parempi teknologia ovat synnyttäneet disinformaation mahdollisuuksia.” Uuden raportin mukaan Uuden raportin mukaan ”Ihmiset luottavat päivittäin omiin käsityksiinsä opastamaan heitä ja kertomaan, mikä on todellista ja mikä ei”, tutkijat jatkoivat. ”Tapahtuman auditointi- ja visuaalisia tallenteita käsitellään usein tapahtuman totuudenmukaisena kertomuksena. Koska synteettinen media tulee halvemmaksi ja helpommaksi tehdä, ja teksti-video-mallit, kuten Sora tai Runway, parantuvat kuukausittain, puolustuksemme ei ole kieltää väärennöksiä kokonaan (mikä on mahdotonta). Sen sijaan tarvitsemme uudenlaisen digitaalisen todentamisen kulttuurin. Jotkut startup-yritykset rakentavat selaimen laajennuksia, jotka merkitsevät epäiltyjä syväfakseja reaaliajassa. Suuret alustat voivat pian ottaa käyttöön oletusarvoisen sisällön alkuperämerkinnät, jotta käyttäjät tietävät, mistä jokainen levy tulee. Meidän täytyy opettaa yleisöä pysähtymään ja kysyä: Kuten eräs tutkija totesi, AI: n illuusioiden aikakaudella kohtuullinen epäily voi olla suurin kilpamme. “Who made this? How do I know?” “We can’t stop deepfakes. But we can help the world spot them faster than they can be weaponized.” Lopuksi on paljon sanottavaa. Deepfakes eivät ole enää science fictionia; ne ovat nykypäivän todellisuutta. Kun AI-tuotantotyökalut tulevat voimakkaammiksi, vastuu luottamuksen suojaamisesta kuuluu yrityksille ja käyttäjille. Kyllä, näiden hermoverkkojen rakentajien on johdettava tietä vahvoilla suojatoimilla, läpinäkyvillä lähdön työkaluilla ja yleisillä standardeilla. Mutta myös käyttäjien on pysyttävä valppaina ja vaadittava vastuullisuutta. Jos haluamme tulevaisuuden, jossa voimme luottaa silmiimme uudelleen, on kaikkien – luojien, yritysten ja yhteisöjen – tehtävä aitoudesta oletuksena. Loppujen lopuksi, jos rakennat tulevaisuutta, varmista, että se on sellainen, jossa totuus on vielä mahdollisuus. 
 
 Kuvan lähde löytyy täältä. Kuvan lähde . Täällä

2022 - HackerNoon Contributor of the Year - Cryptocurrency

2022 - HackerNoon Contributor of the Year - Digital Transformation

2022 - HackerNoon Contributor of the Year - Jobs

Follow me on Twitter! 

Nominated for 2022 - HackerNoon Contributor of the Year - Jobs

Nominated for 2022 - HackerNoon Contributor of the Year - Digital Transformation

Nominated for 2022 - HackerNoon Contributor of the Year - Cryptocurrency

Tämä ääni on tuotettu tarinan alkuperäisellä kielellä!

Deepfake Detection: Neuroverkot taistelevat itseään vastaan

About Author

KOMMENTIT

RIPUTA TAGSIA

TÄMÄ ARTIKKELI ESITETTIIN

Related Stories

Meet Filestack: HackerNoon Company of the Week

Why Choosing to Publish on HackerNoon First Matters

About Bitcoin And “Web 2.5,” HackerNoon’s First Documentary

The #bitcoin Writing Contest by Rootstock and HackerNoon: Final Round Results🎉

Meet Filestack: HackerNoon Company of the Week

Why Choosing to Publish on HackerNoon First Matters

About Bitcoin And “Web 2.5,” HackerNoon’s First Documentary

The #bitcoin Writing Contest by Rootstock and HackerNoon: Final Round Results🎉

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps