Аўтары:  (1) Роберт Хоніг, ETH Zurich (robert.hoenig@inf.ethz.ch);  (2) Хаўер Ранда, ETH Zurich (javier.rando@inf.ethz.ch);  (3) Нікалас Карліні, Google DeepMind;  (4) Фларыян Трамер, ETH Zurich (florian.tramer@inf.ethz.ch).  Табліца спасылак   Рэферат і 1. Уводзіны   Фон і звязаная з імі праца   Мадэль пагроз   Надзейная мімікрыя стылю   Эксперыментальная ўстаноўка   Вынікі   6.1 Асноўныя высновы: усе сродкі абароны лёгка абыйсці   6.2 Аналіз   Абмеркаванне і больш шырокі ўплыў, падзякі і спасылкі   А. Падрабязныя мастацкія прыклады   B. Надзейныя мімікрыі Пакаленні   C. Падрабязныя вынікі   D. Адрозненні з Glaze Finetuning   E. Знаходкі на глазуры 2.0   F. Высновы на Mist v2   Г. Метады стылявой мімікрыі   H. Існуючая абарона ад мімікрыі стылю   I. Надзейныя метады мімікрыі   Ж. Эксперыментальная ўстаноўка   К. Даследаванне карыстальнікаў   Л. Вылічальныя рэсурсы  Анатацыя  Мастакі ўсё больш занепакоеныя прагрэсам у мадэлях генерацыі вобразаў, якія могуць дакладна паўтараць іх унікальныя мастацкія стылі. У адказ на гэта было распрацавана некалькі інструментаў абароны ад мімікрыі стылю, якія ўключаюць невялікія спаборніцкія пертурбацыі ў мастацкія творы, апублікаваныя ў Інтэрнэце. У гэтай працы мы ацэньваем эфектыўнасць папулярных сродкаў абароны — з мільёнамі загрузак — і паказваем, што яны ствараюць толькі ілжывае пачуццё бяспекі. Мы лічым, што простых і стандартных метадаў, такіх як маштабаванне выявы, дастаткова для стварэння надзейных метадаў мімікрыі, якія значна пагаршаюць існуючую абарону. Даследуючы карыстальнікаў, мы дэманструем, што ўсе існуючыя сродкі абароны можна лёгка абыйсці, робячы мастакоў уразлівымі да стылявой мімікрыі. Мы папярэджваем, што інструменты, заснаваныя на спаборніцкіх пертурбацыях, не могуць надзейна абараніць мастакоў ад няправільнага выкарыстання генератыўнага штучнага інтэлекту, і заклікаем распрацаваць альтэрнатыўныя ахоўныя рашэнні.  1 Уводзіны    - папулярнае прымяненне генератыўных мадэляў пераўтварэння тэксту ў відарыс. Улічваючы некалькі малюнкаў ад мастака, мадэль можна наладзіць для стварэння новых малюнкаў у гэтым стылі (напрыклад, касмічны карабель у стылі Ван Гога). Але стылёвая мімікрыя можа нанесці значную шкоду пры няправільным выкарыстанні. У прыватнасці, многія сучасныя мастакі непакояцца, што іншыя цяпер могуць ствараць выявы, якія капіруюць іх унікальны мастацкі стыль, і патэнцыйна могуць выкрасці кліентаў (Heikkila¨, 2022). У якасці адказу было распрацавана некалькі мер абароны, каб абараніць мастакоў ад стылявой мімікрыі (Shan et al., 2023a; Van Le et al., 2023; Liang et al., 2023). Гэтыя меры абароны дадаюць канкурэнтныя пературбацыі да малюнкаў, якія мастакі публікуюць у інтэрнэце, каб перашкаджаць працэсу тонкай налады. Гэтыя меры абароны атрымалі значную ўвагу з боку сродкаў масавай інфармацыі — з артыкуламі ў New York Times (Hill, 2023), CNN (Thorbecke, 2023) і Scientific American (Leffer, 2023) — і былі спампаваны больш за 1 мільён разоў (Shan et al. , 2023a). Мімікрыя стылю  Тым не менш, незразумела, у якой ступені гэтыя інструменты насамрэч абараняюць мастакоў ад мімікрыі стылю, асабліва калі хтосьці актыўна спрабуе іх абыйсці (Radiya-Dixit et al., 2021). У гэтай працы мы паказваем, што самыя сучасныя інструменты абароны стылю — Glaze (Shan et al., 2023a), Mist (Liang et al., 2023) і Anti-DreamBooth (Van Le et al., 2023) — неэфектыўныя, калі сутыкаюцца з простымі надзейнымі метадамі мімікрыі. Надзейныя метады мімікрыі, якія мы разглядаем, вар'іруюцца ад стратэгій з нізкім узроўнем высілкаў - такіх як выкарыстанне іншага сцэнарыя тонкай наладкі або даданне шуму Гаўса да малюнкаў перад навучаннем - да шматэтапных стратэгій, якія спалучаюць стандартныя інструменты. Мы пацвярджаем нашы вынікі з дапамогай даследавання карыстальнікаў, якое паказвае, што надзейныя метады мімікрыі могуць даць вынікі, неадрозныя па якасці ад атрыманых з неабароненых твораў мастацтва (гл. Малюнак 1 для ілюстрацыйнага прыкладу).  Мы паказваем, што існуючыя сродкі абароны проста ствараюць ілжывае пачуццё бяспекі. Нашы надзейныя метады мімікрыі не патрабуюць распрацоўкі новых інструментаў або метадаў тонкай налады, але толькі старанна   спалучэнне стандартных метадаў апрацоўкі малюнкаў, якія ўжо існавалі ў той час, калі гэтыя сродкі абароны былі ўпершыню прадстаўлены!. Такім чынам, мы лічым, што нават нізкакваліфікаваныя фальсіфікатары маглі лёгка абысці гэтыя інструменты з моманту іх стварэння.  Нягледзячы на тое, што мы ацэньваем пэўныя інструменты абароны, якія існуюць сёння, абмежаванні абароны ад стылявой мімікрыі ўласцівыя. Мастакі абавязкова знаходзяцца ў нявыгадным становішчы, паколькі яны павінны дзейнічаць першымі (г.зн., як толькі хтосьці спампоўвае абаронены твор, абарону больш нельга будзе змяніць). Каб быць эфектыўнымі, ахоўныя інструменты сутыкаюцца са складанай задачай стварэння абурэнняў, якія перадаюцца любой тэхніцы тонкай налады, нават той, якая будзе выбрана адаптыўна ў будучыні. Да падобнай высновы прыйшлі Radiya-Dixit і соавт. (Radiya-Dixit et al., 2021), які сцвярджаў, што спаборніцкія пертурбацыі не могуць абараніць карыстальнікаў ад сістэм распазнання твараў. Таму мы папярэджваем, што спаборніцкія метады машыннага навучання не змогуць надзейна абараніць мастакоў ад генератыўнай мімікрыі стылю, і заклікаем распрацаваць альтэрнатыўныя меры для абароны мастакоў.  Мы раскрылі нашы вынікі закранутым інструментам абароны перад публікацыяй, каб яны маглі вызначыць найлепшы курс дзеянняў для існуючых карыстальнікаў.  Гэта папера  пад ліцэнзіяй CC BY 4.0.   даступны на arxiv

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

EScholar Technologies

EScholar

Гэта аўдыя зроблена на мове арыгіналу гісторыі!

Новае даследаванне выяўляе ўразлівасці ў інструментах абароны папулярнага мастацтва ад крадзяжу AI

About Author

КАМЕНТАРЫІ

ВЕСІЦЬ БІРКІ

ГЭТЫ АРТЫКУЛ БЫЎ ПРАДСТАЎЛЕНЫ Ў

Related Stories

Meet AQUi9, SOS Tech Groups, and Dicken AI: HackerNoon Startups of the Week

Navigating the Future of Blockchain VC Industry With Stelian Balta of Hyperchain Capital

How Mavryk Network Is Building Full-Stack RWA Blockchain for $28 Trillion Asset Tokenization Market

HackerNoon Releases “The Editing Protocol” - Technical Documentation for Digital Publishing at Scale

Meet AQUi9, SOS Tech Groups, and Dicken AI: HackerNoon Startups of the Week

Navigating the Future of Blockchain VC Industry With Stelian Balta of Hyperchain Capital

How Mavryk Network Is Building Full-Stack RWA Blockchain for $28 Trillion Asset Tokenization Market

HackerNoon Releases “The Editing Protocol” - Technical Documentation for Digital Publishing at Scale

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps