Ряд инцидентов с использованием ИИ-инструмента Grok от компании X для создания сексуализированных изображений одноклассниц без их согласия вызвал волну тревоги среди японских школьников и студентов, которые теперь опасаются юридических последствий.
С момента запуска функции генерации и редактирования изображений в Grok 24 декабря 2025 года в социальных сетях стали массово появляться сгенерированные изображения реальных людей в обнаженном виде или в откровенном нижнем белье. Это привело к многочисленным жалобам от пострадавших.
6 января компания предупредила, что создание сексуализированных измененных изображений с помощью Grok будет приравниваться к загрузке незаконного контента и может повлечь удаление аккаунта, его полную блокировку и сотрудничество с правоохранительными органами.
На юридическом портале Bengoshi.com появилась серия обращений от японских пользователей, в основном молодых людей и подростков, которые не знали, чем им может грозить использование Grok:
Я учусь во втором классе старшей школы. С помощью Грока я создал обнаженное видео своей одноклассницы. Я сожалею и глубоко раскаиваюсь. Я не публиковал и не распространял это видео, но может ли быть наказание даже за сам факт создания? Я сбросил телефон к заводским настройкам, но боюсь доставить неприятности родителям.
Я попросил Грока обработать фотографию моей одноклассницы из старшей школы, чтобы она была в трусиках. Может ли даже просто отдача такой команды считаться производством порно?
Мне 20 с лишним лет, я студент. С помощью Грока я переодел нескольких знакомых в купальники или подверг их сексуальной обработке. Я уже удалил аккаунт и данные, но меня беспокоит, передаёт ли X информацию в полицию, и я думаю о том, чтобы сдаться самому.
Адвокат Ёхэй Симидзу, специализирующийся на интернет-праве, пояснил, что такие действия могут повлечь юридическую ответственность.
Если изображения являются обнаженными или в откровенном нижнем белье, это может считаться клеветой и нарушением прав на неприкосновенность частной жизни. В особо серьезных случаях может наступить уголовная ответственность за клевету или нарушение авторских прав.
Инциденты в Японии стали частью глобальной волны критики в адрес Grok, обвиняемого в упрощении создания нежелательного контента. Многие из обратившихся на юридический портал пользователей утверждают, что не осознавали серьезности своих действий, пока не столкнулись с предупреждениями от X. Теперь их главный страх — уголовное преследование и позор для семей.
