Аутори:  (1) Роберт Хониг, ЕТХ Цирих (роберт.хоениг@инф.етхз.цх);  (2) Хавијер Рандо, ЕТХ Цирих (јавиер.рандо@инф.етхз.цх);  (3) Николас Карлини, Гоогле ДеепМинд;  (4) Флориан Трамер, ЕТХ Цирих (флориан.трамер@инф.етхз.цх).  Табела веза   Апстракт и 1. Увод   Позадина и сродни рад   Модел претње   Робусна стилска мимикрија   Експериментална поставка   Резултати   6.1 Главни налази: Све заштите се лако заобилазе   6.2 Анализа   Дискусија и шири утицај, признања и референце   А. Детаљни примери уметности   Б. Генерације робусне мимикрије   Ц. Детаљни резултати   Д. Разлике са финим подешавањем глазуре   Е. Налази о глазури 2.0   Ф. Налази о магли в2   Г. Методе за стилску мимикрију   Х. Заштите постојећег стила мимикрије   И. Методе робусне мимикрије   Ј. Експериментална поставка   К. Корисничка студија   Л. Рачунални ресурси  Абстрацт  Уметници су све више забринути због напретка у моделима генерисања слика који могу блиско реплицирати њихове јединствене уметничке стилове. Као одговор, развијено је неколико алата за заштиту од стилске мимикрије који укључују мале супротстављене пертурбације у уметничка дела објављена на мрежи. У овом раду процењујемо ефикасност популарне заштите — са милионима преузимања — и показујемо да оне пружају само лажни осећај сигурности. Сматрамо да су технике малог напора и „готове“ технике, као што је повећање величине слике, довољне за стварање робусних метода мимикрије које значајно деградирају постојеће заштите. Кроз корисничку студију, показали смо да се све постојеће заштите могу лако заобићи, остављајући уметнике подложним стилској мимикрији. Упозоравамо да алати засновани на супротстављеним пертурбацијама не могу поуздано заштитити уметнике од злоупотребе генеративне вештачке интелигенције и подстичемо развој алтернативних заштитних решења.  1 Увод    је популарна примена генеративних модела текста у слику. Уз неколико слика уметника, модел се може фино подесити да генерише нове слике у том стилу (нпр. свемирски брод у стилу Ван Гога). Али мимикрија стила има потенцијал да нанесе значајну штету ако се злоупотреби. Конкретно, многи савремени уметници брину да би други сада могли да производе слике које копирају њихов јединствени уметнички стил и потенцијално украду купце (Хеиккила¨, 2022). Као одговор, развијено је неколико заштита како би се уметници заштитили од стилске мимикрије (Схан ет ал., 2023а; Ван Ле ет ал., 2023; Лианг ет ал., 2023). Ове заштите додају супротстављене пертурбације сликама које уметници објављују на мрежи, како би спречили процес финог подешавања. Ове заштите су привукле значајну пажњу медија — са прилогом у Њујорк тајмсу (Хил, 2023), ЦНН (Тхорбеке, 2023) и Сајентифик Американ (Лефер, 2023) — и преузете су више од милион пута (Схан ет ал. , 2023а). Мимикрија стила  Ипак, нејасно је у којој мери ови алати заправо штите уметнике од стилске мимикрије, посебно ако неко активно покушава да их заобиђе (Радииа-Дикит ет ал., 2021). У овом раду показујемо да су најсавременији алати за заштиту у стилу — Глазе (Схан ет ал., 2023а), Мист (Лианг ет ал., 2023) и Анти-ДреамБоотх (Ван Ле ет ал., 2023) — су неефикасне када се суоче са једноставним робусним методама мимикрије. Робусне методе мимикрије које разматрамо крећу се од стратегија са малим напором — као што је коришћење другачије скрипте за фино подешавање или додавање Гаусовог шума на слике пре тренинга — до стратегија у више корака које комбинују готове алате. Наше резултате потврђујемо корисничком студијом, која открива да робусне методе мимикрије могу произвести резултате који се по квалитету не разликују од оних добијених из незаштићених уметничких дела (погледајте Слику 1 за илустративни пример).  Показујемо да постојећи алати заштите само пружају лажни осећај сигурности. Наше робусне методе мимикрије не захтевају развој нових алата или метода финог подешавања, већ само пажљиво   комбинујући стандардне технике обраде слике које су већ постојале у време када су ови заштитни алати први пут представљени!. Стога верујемо да су чак и нискоквалификовани фалсификатори могли лако да заобиђу ове алате од њиховог настанка.  Иако процењујемо специфичне алате за заштиту који постоје данас, ограничења заштите стилских мимикрија су инхерентна. Уметници су нужно у неповољнијем положају јер морају први да делују (тј. када неко преузме заштићену уметност, заштита се више не може променити). Да би били ефикасни, заштитни алати се суочавају са изазовним задатком стварања пертурбација које се преносе на било коју технику финог подешавања, чак и на ону која се у будућности бира адаптивно. Сличан закључак су извели Радииа-Дикит ет ал. (Радииа-Дикит ет ал., 2021), који су тврдили да супротстављене пертурбације не могу заштитити кориснике од система за препознавање лица. Стога упозоравамо да супротстављене технике машинског учења неће моћи поуздано да заштите уметнике од мимикрије генеративног стила, и подстичемо развој алтернативних мера за заштиту уметника.  Открили смо наше резултате оштећеним алатима за заштиту пре објављивања, како би они могли да одреде најбољи правац деловања за постојеће кориснике.  Овај рад је  под лиценцом ЦЦ БИ 4.0.   доступно на аркив

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

EScholar Technologies

EScholar

Овај аудио је произведен на оригиналном језику приче!

Ново истраживање открива рањивости популарних алата за заштиту уметности од крађе вештачке интелигенције

About Author

КОМЕНТАРИ

ХАНГ ТАГС

ОВАЈ ЧЛАНАК ЈЕ ПРЕДСТАВЉЕН У

Related Stories

Building the Cloud Future: Sreedevi Velagala's Trek in AWS Architecture

Scaling Web Testing with Automation: Srikanth Srinivas’s Digital Strategy Breakthrough

Leadership Success Story: Srinath Muralinathan's Transformative Projects at Amazon

Sravana Kumar Reddy Yeruva’s Fusion Transformation Sets a New Standard in ERP Excellence

Building the Cloud Future: Sreedevi Velagala's Trek in AWS Architecture

Scaling Web Testing with Automation: Srikanth Srinivas’s Digital Strategy Breakthrough

Leadership Success Story: Srinath Muralinathan's Transformative Projects at Amazon

Sravana Kumar Reddy Yeruva’s Fusion Transformation Sets a New Standard in ERP Excellence

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps