Nightshade, инструментът, който „отравя“ данните, дава шанс на артистите да се борят срещу AI

Nightshade, инструментът, който „отравя“ данните, дава шанс на артистите да се борят срещу AI

Умишленото отравяне на някой друг никога не е морално правилно. Но ако някой в ​​офиса продължава да краде обяда ви, няма ли да прибегнете до дребно отмъщение?

За художниците защитата на работата от използване за обучение на AI модели без съгласие е трудна битка. Искания за отказ и кодовете без изтриване разчитат на компаниите за изкуствен интелект да се ангажират добросъвестно, но онези, които са мотивирани от печалбата над поверителността, лесно могат да пренебрегнат подобни мерки. Изолирането им офлайн не е опция за повечето артисти, които разчитат на експозиция в социалните медии за поръчки и други възможности за работа.

нощница , проект от Чикагския университет, дава на художниците известна защита, като отравя данните от изображенията, правейки ги безполезни или разрушителни за обучението на AI модели. Бен Джао, професор по компютърни науки, който ръководи проекта, сравни Nightshade с поставянето на лют сос в обяда ви, за да не бъде откраднат от хладилника на работното място.

juno driver nyc

Ние показваме факта, че генеративните модели като цяло, без каламбур, са просто модели. Самият Nightshade не е замислен като крайно, изключително мощно оръжие за убиване на тези компании, каза Джао. Nightshade показва, че тези модели са уязвими и има начини за атака. Това означава, че има начини собствениците на съдържание да осигурят по-трудна възвръщаемост, отколкото да пишат в Конгреса или да се оплакват по имейл или социални медии.

Джао и неговият екип не се опитват да свалят Големия AI - те просто се опитват да принудят технологичните гиганти да плащат за лицензирана работа, вместо да обучават AI модели на скрапирани изображения.

Има правилен начин да направите това, продължи той. Истинският въпрос тук е за съгласието, е за компенсацията. Ние просто даваме на създателите на съдържание начин да се противопоставят на неоторизирано обучение.

Вляво: Мона Лиза, непроменена. В средата: Мона Лиза, след Nightshade Вдясно: AI вижда сенчестата версия като котка в роба.

Наляво: Мона Лиза, непроменена. Средно: Мона Лиза, след Nightshade. дясно: Как AI вижда сенчестата версия на Мона Лиза. Кредити за изображения: С любезното съдействие на изследователи от Чикагския университет

нощницанасочва към асоциациите между текстовите подкани, фино променяйки пикселите в изображенията, за да подмамят AI моделите да интерпретират напълно различно изображение от това, което човешкият зрител би видял. Моделите ще категоризират неправилно характеристиките на засенчените изображения и ако са обучени на достатъчно количество отровени данни, те ще започнат да генерират изображения, напълно несвързани със съответните подкани. Може да са необходими по-малко от 100 отровени проби, за да се повреди подкана за стабилна дифузия, пишат изследователите в технически документ, който в момента е в процес на партньорска проверка .

Вземете например картина на крава, излежаваща се на поляна.

Чрез манипулиране и ефективно изкривяване на тази асоциация, можете да накарате моделите да мислят, че кравите имат четири кръгли колела и броня и багажник, каза Джао пред Gadget Insider. И когато бъдат подканени да произведат крава, те ще произведат голям камион Ford вместо крава.

Екипът на Nightshade предостави и други примери. Непроменено изображение на Мона Лиза и засенчена версия са почти идентични с хората, но вместо да интерпретира отровната проба като портрет на жена, AI ще я види като котка, облечена в роба.

Подканянето на AI да генерира изображение на куче, след като моделът е бил обучен с помощта на сенчести изображения, които го карат да вижда котки, дава ужасяващи хибриди, които нямат прилика с нито едно от животните.

глазура , инструмент за прикриване, който изкривява начина, по който AI моделите виждат и определят артистичния стил, като му пречи да имитира уникалната работа на художниците. Подобно на Nightshade, човек може да види остъклен реалистичен портрет с въглен, но AI модел ще го види като абстрактна картина — и след това ще генерира разхвърляни абстрактни картини, когато бъде подканен да генерира фини портрети с въглен.

Говорейки с Gadget Insider след стартирането на инструмента миналата година, Zhao описа Glaze като техническа атака, използвана като защита. Въпреки че Nightshade не е директна атака, Zhao каза на Gadget Insider наскоро, тя все още предприема офанзива срещу хищнически компании за изкуствен интелект, които пренебрегват отказите. OpenAI — една от компаниите, изправени пред a колективен иск за предполагаемо нарушаване на закона за авторското право - сега позволява на артистите да се откажат да бъдат използвани за обучение на бъдещи модели.

Проблемът с това [заявки за отказ] е, че това е възможно най-мекият, най-мек вид заявка. Няма принудително изпълнение, няма никаква компания да държи на думата си, каза Джао. Има много компании, които летят под радара, които са много по-малки от OpenAI и нямат граници. Те нямат абсолютно никаква причина да се придържат към тези списъци за отказ и пак могат да вземат вашето съдържание и да правят каквото си поискат.

Кели Маккернан, художник, който е част от колективен иск срещу Stability AI, Midjourney и DeviantArt, публикува пример за тяхната щрихована и остъклена живопис на X . Картината изобразява жена, заплетена в неонови вени, докато пикселизирани двойници се хранят с нея. Той представлява генеративен AI, канибализиращ автентичния глас на човешките творци, пише Маккернан.

McKernan започна да превърта минали изображения с поразителни прилики със собствените им картини през 2022 г., когато генераторите на изображения с изкуствен интелект бяха пуснати за обществеността. Когато установиха, че над 50 от техните парчета са били изстърган и използван за обучение на AI модели , те загубиха всякакъв интерес към създаването на повече изкуство, казаха те пред Gadget Insider. Те дори намериха своя подпис в съдържание, генерирано от AI. Използването на Nightshade, казаха те, е защитна мярка, докато не съществува подходяща регулация.

Сякаш навън има силна буря и все още трябва да ходя на работа, така че ще се защитя и ще използвам прозрачен чадър, за да видя къде отивам, каза Маккернан. Не е удобно и няма да спра бурята, но ще ми помогне да стигна до каквото и да изглежда другата страна. И изпраща съобщение до тези компании, които просто взимат и взимат и взимат, без каквито и да е последствия, че ние ще отвърнем на удара.

Повечето от промените, които Nightshade прави, трябва да са невидими за човешкото око, но екипът отбелязва, че засенчването е по-видимо на изображения с плоски цветове и плавен фон. Инструментът, който е безплатно за изтегляне , се предлага и в настройка с ниска интензивност, за да се запази визуалното качество. МакКернан каза, че въпреки че могат да разберат, че изображението им е променено след използването на Glaze and Nightshade, тъй като те са художникът, който го е нарисувал, това е почти незабележимо.

Илюстраторът Кристофър Брец демонстрира ефекта на Nightshade върху едно от неговите произведения, публикуване на резултатите на X . Пускането на изображение през най-ниската и настройка по подразбиране на Nightshade имаше малко влияние върху илюстрацията, но промените бяха очевидни при по-високи настройки.

Експериментирах с Nightshade цяла седмица и планирам да пусна всяка нова работа и голяма част от по-старото си онлайн портфолио през него, каза Брец пред Gadget Insider. Познавам редица дигитални художници, които са се въздържали да публикуват ново изкуство за известно време и се надявам, че този инструмент ще им даде увереността да започнат да споделят отново.

В идеалния случай художниците трябва да използват както Glaze, така и Nightshade, преди да споделят работата си онлайн, пише екипът в a блог пост . Екипът все още тества как Glaze и Nightshade си взаимодействат върху едно и също изображение и планира да пусне интегриран, единствен инструмент, който прави и двете. Междувременно те препоръчват първо да използвате Nightshade, а след това Glaze, за да минимизирате видимите ефекти. Екипът настоява да не се публикуват произведения на изкуството, които са само засенчени, а не остъклени, тъй като Nightshade не защитава художниците от мимикрия.

Подписите и водните знаци - дори тези, добавени към метаданните на изображението - са крехки и могат да бъдат премахнати, ако изображението бъде променено. Промените, които Nightshade прави, ще останат чрез изрязване, компресиране, екранни снимки или редактиране, тъй като те променят пикселите, които изграждат изображението. Дори снимка на екран, показващ засенчено изображение, ще бъде разрушителна за обучението на модела, каза Джао.

антропни инвеститори

Тъй като генеративните модели стават все по-сложни, художниците са изправени пред нарастващ натиск да защитят работата си и да се борят с остъргването. Steg.AI и Иматар помагат на създателите да установят собственост върху своите изображения чрез прилагане на водни знаци, които са незабележими за човешкото око, въпреки че нито едно от тях не обещава да защити потребителите от безскрупулно изстъргване. The Няма AI генератор на водни знаци , пуснат миналата година, прилага водни знаци, които обозначават работата, създадена от човека, като генерирана от AI, с надеждата, че наборите от данни, използвани за обучение на бъдещи модели, ще филтрират изображения, генерирани от AI. Има също Резолюция , средство от Spawning.ai , който идентифицира и проследява IP адресите на скреперите. Собствениците на уебсайтове могат да блокират маркираните IP адреси или да изберат да изпратят различно изображение обратно, като среден пръст.

Кин.чл , друг инструмент, който стартира тази седмица, има различен подход. За разлика от Nightshade и други програми, които криптографски модифицират изображение, Kin маскира части от изображението и разменя неговите мета тагове, което го прави по-трудно за използване при обучение на модел.

Критиците на Nightshade твърдят, че програмата е вирус, или се оплакват, че използването й ще го направи навреди на общността с отворен код . В екранна снимка, публикувана в Reddit в месеците преди пускането на Nightshade, потребител на Discord обвини Nightshade в кибер война/тероризъм. Друг потребител на Reddit, който по невнимание стана вирусен на X постави под въпрос законността на Nightshade, сравнявайки го с хакване на уязвима компютърна система, за да наруши нейната работа.

Вярването, че Nightshade е незаконно, тъй като умишлено нарушава предвидената цел на генеративен AI модел, както заявява OP, е абсурдно. Zhao твърди, че Nightshade е напълно законен. Не е магическо скачане в конвейери за обучение на модели и след това убиване на всички, каза Джао. Обучителите на модели доброволно изтриват изображения, както засенчени, така и не, и компаниите за изкуствен интелект печелят от това.

Крайната цел на Glaze и Nightshade е да получат нарастваща цена за всяка част от данните, изчерпани без разрешение, докато моделите за обучение върху нелицензирани данни вече не са издържани. В идеалния случай компаниите ще трябва да лицензират неповредени изображения, за да обучат своите модели, като гарантират, че артистите дават съгласие и получават компенсация за работата си.

цена на домейн x.com

Правено е и преди; Getty Images и Nvidia наскоро стартира генеративен AI инструмент, изцяло обучен с помощта на обширната библиотека от снимки на Getty. Абонираните клиенти плащат такса, определена от това колко снимки искат да генерират, а фотографите, чиято работа е използвана за обучение на модела, получават част от приходите от абонамента. Изплащанията се определят от това колко от съдържанието на фотографа е допринесло за набора за обучение и ефективността на това съдържание във времето, Wired съобщи .

Джао поясни, че не е против AI и посочи, че AI има изключително полезни приложения, които не са толкова етични. В света на академичните среди и научните изследвания, напредъкът в ИИ е повод за празнуване. Въпреки че по-голямата част от маркетинговия шум и паниката около AI наистина се отнася до генеративния AI, традиционният AI се използва за разработване на нови лекарства и борба с изменението на климата, каза той.

Нито едно от тези неща не изисква генериращ AI. Нито едно от тези неща не изисква красиви снимки, или измисляне на факти, или да има потребителски интерфейс между вас и AI, каза Zhao. Това не е основна част за повечето фундаментални AI технологии. Но това е така, че тези неща се свързват толкова лесно с хората. Big Tech наистина се хвана за това като лесен начин за печалба и ангажиране на много по-широка част от населението, в сравнение с по-научен AI, който всъщност има фундаментални, революционни способности и невероятни приложения.

Основните играчи в технологиите, чието финансиране и ресурси превъзхождат тези на академичните среди, са до голяма степен про-AI. Те нямат стимул да финансират проекти, които са разрушителни и не носят финансова печалба. Джао твърдо се противопоставя на монетизирането на Glaze и Nightshade или на продажбата на IP на проектите на стартиращ бизнес или корпорация. Артисти като McKernan са благодарни, че имат отсрочка от абонаментните такси, които са почти повсеместни в софтуера, използван в творческите индустрии.

Артистите, включително и аз, се чувстват просто експлоатирани на всяка крачка, каза Маккернан. Така че, когато нещо ни се дава безплатно като ресурс, знам, че сме благодарни.“

Екипът зад Nightshade, който се състои от Джао, докторант Шон Шан и няколко студенти, е финансиран от университета, традиционни фондации и държавни субсидии. Но за да поддържа изследванията, Джао признава, че екипът вероятно ще трябва да измисли структура с нестопанска цел и да работи с фондации за изкуство. Той добави, че отборът все още има още няколко трика в ръкава си.

Дълго време изследванията се правеха в името на изследванията, разширявайки човешкото познание. Но мисля, че нещо подобно, има етична линия, каза Джао. Изследването за това има значение. . . тези, които са най-уязвими към това, те са склонни да бъдат най-креативни и те са склонни да имат най-малко подкрепа по отношение на ресурсите. Това не е честна битка. Ето защо правим каквото можем, за да помогнем за балансирането на бойното поле.

Kin.art пуска безплатен инструмент, за да попречи на GenAI моделите да се обучават върху произведения на изкуството

Основателят на Selkie защитава използването на AI в новата колекция рокли на фона на обратната реакция