Скрапер Cara теперь помогает художникам защититься от ИИ

Пользователь Reddit выкачал 12 млн изображений с Cara, платформы для художников, которые не хотят, чтобы их работы использовались для обучения ИИ, и выложил весь архив как «забавный проект», сообщил WIRED. Через несколько недель он уже помогает основательнице Cara создавать инструмент, который должен останавливать именно такие действия, какие совершил он сам.

Cara привлекла около 1,5 млн художников с момента запуска в начале 2023 года фотографом Джингной Чжан и небольшой командой волонтёров. Приложение отсеивает сгенерированные ИИ изображения и предлагает Glaze, инструмент, маскирующий стиль изображения, чтобы сбить с толку ИИ-имитацию. Ничто из этого не останавливает сам скрапинг, который, по словам Чжан, предотвратить почти невозможно.

Начиная с 13 августа, Cara подвергалась атакам трижды менее чем за две недели. Пользователь под ником MandarinDawnPoppy994 выложил архив на 12 терабайт, охватывающий почти всю публичную библиотеку платформы, на сабреддите r/DefendingAIArt, заявив, что это обошлось ему меньше чем в $10. Второй пользователь, CaptiveDreamer, выкачал 8,5 млн ссылок вместе с именами пользователей и тегами на Hugging Face; платформа согласилась удалить персональные метаданные, но оставила ссылки, поскольку «здесь не хранится ни одной копии работ». Третий скрапер забрал 123 000 изображений и биографии пользователей с личными данными и выложил их на Academic Torrents 22 августа.

• 13 августа: 12 млн изображений, архив на 12 ТБ, выложен на r/DefendingAIArt, стоимость менее $10
• Середина августа: 8,5 млн ссылок и метаданные выложены на Hugging Face вторым скрапером
• 22 августа: 123 000 изображений и личные данные пользователей выложены на Academic Torrents
• GoFundMe Cara: цель $120 000 на юридические расходы, собрано более $100 000
• Lantern: открытый инструмент, односторонний отпечаток изображений, сканирует новые ИИ-датасеты на совпадения, уведомляет художников

Чжан, которая параллельно участвует в коллективных исках против Stability AI, Midjourney и Google из-за обучающих данных для ИИ, собрала более $100 000 из цели в $120 000 на GoFundMe для юридических расходов. «Я просто чувствую, что это было целенаправленно и очень больно», — сказала она WIRED, добавив, что «законы не поспевают» за защитой от такого рода сбора данных. Часть пользователей Cara уже удалила портфолио и ушла. Чжан не отговаривает их, но не согласна с идеей, что уход куда-то делает безопаснее: «Крупные платформы скрапят чаще, и от этого мне только хуже».

Автором поста MandarinDawnPoppy994 оказался человек под ником Heft, студент с техническим образованием, говоривший с WIRED через Discord под псевдонимом после угроз доксинга и убийства в его адрес. По словам Heft, скрапинг начинался как чисто технический проект без намерения публиковать данные, а желание устроить рейдбейт с датасетом на Reddit увлекло его троллингом в комментариях. Такой реакции он не ожидал: люди «делились тем, как переживали панические атаки из-за скрапинга, как удаляли целые портфолио из интернета».

Heft присоединился к Discord-серверу Cara как специалист по устранению неполадок, показывая команде, как предложенные исправления всё равно можно обойти: по словам Чжан, он делает это «буквально за несколько минут». Сейчас они вместе строят Lantern, открытый инструмент, который позволяет художникам создать «односторонний отпечаток» своей работы, не храня сами изображения на платформе. Lantern сканирует новые публичные ИИ-датасеты, и если находит совпадение, художник получает уведомление и ссылку, чтобы запросить удаление или подать жалобу на нарушение авторских прав.

Борьба Cara — часть более широкой волны отпора авторов аппетиту ИИ к данным: от британских актёров, требующих законное право на собственный голос, до материалов о том, как Amazon сканирует и уничтожает редкие книги для обучения своих моделей. Чжан не ждёт, что этот паттерн исчезнет. «Атаки со стороны ИИ станут настолько, настолько обычным делом», — сказала она.

Это не финансовый совет — только информация к размышлению.