Би-би-си разоблачила сеть спамеров, наживающихся на ИИ-изображениях жертв Холокоста 0
Расследование Би-би-си выявило международную сеть спамеров, которая размещает в фейсбуке сгенерированные искусственным интеллектом фотографии жертв Холокоста.
Организации, занимающиеся сохранением памяти о Холокосте, заявляют, что подобные изображения доставляют моральные страдания выжившим и родственникам жертв. Они критикуют компанию Meta (владельца Facebook), обвиняя ее в том, что она позволяет пользователям превращать трагедию в «эмоциональную игру».
Подлинных фотографий, сделанных в концлагере Аушвиц во время Второй мировой войны, существует немного. Но в последнее время соцсети наводнили фейковые изображения, якобы сделанные в концлагере: например, заключенная, играющая на скрипке, или влюбленные, встречающиеся у ограждений. Такие посты собирают десятки тысяч лайков и репостов.
«Кто-то придумывает эти истории… ради какой-то странной эмоциональной игры в соцсетях, — говорит Павел Савицкий, пресс-секретарь польского Государственного музея Аушвиц-Биркенау. — Это не игра. Это реальный мир, реальные страдания и реальные люди, которых мы хотим и должны помнить».
Би-би-си удалось отследить аккаунты авторов некоторых изображений и обнаружить сеть контент-мейкеров из Пакистана, которые тесно сотрудничают между собой и зарабатывают через фейсбук. Они используют программу монетизации контента Meta (Content Monetization, CM) — закрытую систему, выплачивающую деньги за контент с высокой вовлеченностью и большим количеством просмотров.
Владелец одного из таких аккаунтов — в профиле указано имя Abdul Mughees и место жительства Пакистан — разместил скриншоты, якобы подтверждающие, что он заработал 20 000 долларов США через социальные сети, включая Meta. В другом его посте были данные о том, что его контент за четыре месяца набрал более 1,2 миллиарда просмотров.
Би-би-си не смогла независимо подтвердить доходы ни одного из контент-мейкеров.
Среди множества публикаций от имени Abdul Mughees — ИИ-изображения вымышленных жертв Холокоста и выдуманные истории, например, о ребенке, спрятавшемся под половицами, или о младенце, оставленном на железнодорожных путях у концлагеря.
Би-би-си проанализировала деятельность этого и десятков похожих аккаунтов и пришла к выводу, что они почти исключительно публикуют так называемый «ИИ-мусор» (англ. AI slop) — низкокачественные изображения и тексты, созданные искусственным интеллектом в больших объемах и массово распространяемые в соцсетях.
Тематика Аушвица стала особенно популярной среди страниц и групп, посвященных историческим темам. Некоторые из них, например, Timeless Tales и History Haven, публиковали более 50 постов в день.
В июне Музей Аушвиц-Биркенау заявил, что подобные аккаунты крадут его публикации, пропускают их через ИИ-модели, искажают исторические факты или полностью выдумывают события и жертв. В своем посте в фейсбуке музей назвал такие изображения «опасным искажением», которое «не уважает жертв и издевается над их памятью».
По словам Павла Савицкого, «цунами фейковых изображений» подрывает миссию мемориального музея — повышать осведомленность о Холокосте.
«Нам уже начали писать в комментариях к постам: “О, это, наверное, фото, сгенерированное ИИ “», — жалуется он.
Такие ИИ-изображения расстраивают переживших Холокост и их семьи, отмечают в организации, занимающейся исследованиями Холокоста и просвещением на эту тему.
«Они не всегда понимают, что именно они видят», — говорит доктор Роберт Уильямс из Международного альянса в память о Холокосте. По его словам, выжившие чувствуют грусть из-за того, что такую ситуацию вообще допустили, несмотря на вклад правительств и благотворителей в кампании по сохранению памяти.
«Им кажется, что их усилий оказалось недостаточно. Это крайне печально, потому что последние из выживших скоро уйдут от нас», — говорит он.
Компания Meta специально не поощряет публикации ложных историй, в том числе о Холокосте, но ее алгоритмы действительно вознаграждают контент с высокой вовлеченностью. Би-би-си обнаружила аналогичные аккаунты с «ИИ-мусором» из Индии, Вьетнама, Таиланда и Нигерии.
Чтобы понять, почему эти сети массово производят определенные типы контента, Би-би-си пообщалась с пакистанцем Фазалом Рахманом, который использует несколько схем монетизации контента в соцсетях. По его словам, это его единственный источник дохода.
Хотя он сам не создает изображений, связанных с Холокостом, и сначала даже не знал значения этого слова, он состоит в тех же фейсбук-группах, что и те, кто этим занимается.
По его словам, фейсбук-страница с 300 000 подписчиков может приносить владельцу 1 000 долларов в месяц, если публикуется «премиум-контент», ориентированный на аудиторию из США, Великобритании и Европы. Западные просмотры, по его оценке, стоят в восемь раз дороже, чем азиатские.
История как тема, по его словам, стабильно привлекает трафик.
Другие авторы контента, похоже, согласны с этим. Би-би-си обнаружила пошаговые обучающие видеоролики о том, как с помощью популярных ИИ-моделей можно непрерывно генерировать фейковые исторические изображения и тексты.
В одном из видео автор просит чат-бот назвать важные исторические события, которые можно использовать как основу для создания контента — и среди ответов появляется Холокост.
Встречаются и советы, как обмануть аудиторию — например, выдать свою страницу за другую организацию, чтобы набрать подписчиков и получить доступ к программе монетизации Meta.
Политика прозрачности Facebook позволяет отслеживать предыдущие названия страниц. С помощью этой функции Би-би-си выяснила, что многие страницы, публиковавшие «ИИ-мусор» на тему Холокоста, ранее выдавали себя за официальные пожарные службы США, коммерческие компании и американских инфлюенсеров — без их согласия.
Причем эти страницы, как утверждают сами создатели, могут быть проданы или сданы в аренду тем, кто хочет войти в рынок создания контента.
Би-би-си обратилась в Meta по поводу нескольких профилей, публиковавших ИИ-контент на тему Холокоста и распространявших дезинформацию.
Несколько таких страниц и групп были удалены, в том числе те, на которые жаловался музей Аушвица в июне.
Представитель Meta сообщил, что, хотя сами фейковые изображения не нарушали правила, компания провела расследование и обнаружила, что аккаунты нарушили правила, касающиеся подделки страниц и торговли ими.
«Мы удалили страницы и группы, на которые нам пожаловались, а также заблокировали аккаунты за нарушение наших правил, касающихся спама и подозрительного поведения», — заявили в Meta.
ИИ ранее использовался для увековечения памяти о Холокосте и реконструкции историй настоящих жертв, но доктор Уильямс из Международного альянса в память о Холокосте предупреждает: это может способствовать мнению, что сама история Холокоста — вымысел.
«Любая крайняя манипуляция — это то, чего нужно избегать», — сказал он.
