Издатель инди-игр Finji обвинил TikTok в использовании генеративного ИИ для создания оскорбительных версий рекламы своей игры Usual June без разрешения студии. По словам генерального директора Ребекки Салтсман, алгоритмы платформы автоматически модифицировали официальную рекламу, превратив главную героиню в сексуализированный стереотипный образ, что вызвало гнев разработчиков и возмущение игрового сообщества.
Проблема вскрылась благодаря бдительности игроков: они начали оставлять тревожные комментарии под постами студии, заметив странную рекламу, которая транслировалась от имени Finji. Как оказалось, TikTok использовал функции «Smart Creative» и «Automate Creative», которые с помощью ИИ автоматически «улучшают» рекламные материалы для повышения их эффективности.
На полученных скриншотах видно, что произошло с обложкой игры: главная героиня Джун оказалась в бикини, с непропорционально большими бедрами и в высоких сапогах. Этот образ кардинально отличается от оригинального дизайна персонажа и, по мнению студии, является сексуализированным и опирается на вредные стереотипы. Сама Finji не имеет доступа к этим «улучшенным» версиям, не может их отслеживать или удалять.
Переписка с техподдержкой TikTok, которая длилась несколько недель, лишь усугубила ситуацию. Сначала в платформе отрицали использование ИИ, а когда получили неопровержимые доказательства, признали серьезность проблемы, но затем выдали формальную отписку об «эффективности рекламы». На возмущенный запрос студии, почему ее работу превратили в «сексуализированное сексистское изображение», TikTok ответил, что это «окончательное решение» службы поддержки.
Я просто в бешенстве. Это моя работа, работа моей команды, моя репутация и репутация моей компании, которую я выстраивала более десяти лет. Вместо извинений и пересмотра своих расистских и сексистских алгоритмов, мы получили полное безразличие, — заявила Ребекка Салтсман.
Единственным способом остановить распространение оскорбительной рекламы для студии стало полное завершение рекламных кампаний. TikTok от комментариев отказался.
