Британское правительство ужесточило борьбу с созданным ИИ сексуальным насилием в понедельник, после того как министры подтвердили возможный запрет социальной платформы Илона Маска X на фоне расширяющегося расследования и потенциально крупных штрафов для компании.
Это решительное действие последовало за запуском формального расследования Ofcom, британского регулятора связи, о том, нарушила ли X свои юридические обязанности в соответствии с Законом Великобритании о безопасности в интернете, и было вызвано сообщениями о том, что встроенный в платформу ИИ-чатбот Grok использовался для создания и распространения сексуализированных дипфейков женщин и детей.
Grok был запущен в 2023 году, но его функция генерации изображений, Grok Imagine, была добавлена в 2025 году с отдельным режимом для создания контента для взрослых.
Государственный секретарь по науке, инновациям и технологиям Лиз Кендалл описала недавние случаи misuse ИИ-инструмента для создания сексуально откровенных и недобровольных изображений как "глубоко тревожные".
Кендалл также предупредила, что компании социальных сетей будут привлечены к ответственности, если они не примут мер.
"Я приветствую оперативность Ofcom, начавшего сегодня формальное расследование", - сказала Кендалл, согласно Reuters. "Крайне важно, чтобы Ofcom завершил это расследование быстро, потому что общественность – и, что самое важное, жертвы – не потерпят никаких задержек".
В отдельном заявлении, распространенном позже в понедельник, Кендалл сказала, что инструмент ИИ Grok использовался для создания и распространения унизительных недобровольных интимных изображений.
"Ни одна женщина или ребенок не должны жить в страхе, что их изображение будет сексуально изменено с помощью технологий", - сказала она, прежде чем добавить: "Контент, который распространялся на X, отвратителен. Это не только вызов порядочному обществу, это незаконно".
Кендалл добавила, что распространение или угроза распространения дипфейк интимных изображений без согласия, включая изображения людей в нижнем белье, является уголовным преступлением по законодательству Великобритании.
Она предупредила, что Ofcom имеет право налагать "штрафы на миллионы долларов" или санкции в размере до 10% от соответствующей мировой выручки компании.
"Но X не нужно ждать завершения расследования Ofcom", - сказала Кендалл. "Они могут выбрать более ранние действия, чтобы гарантировать, что этот отвратительный и незаконный материал не может распространяться на их платформе", - предупредила она.
Ofcom заявил, что "срочно связался" с X 5 января, потребовав объяснений о принимаемых мерах для защиты пользователей в Великобритании и установив срок ответа на 9 января.
Хотя xAI, другая компания, основанная Маском, ответила, Ofcom заявил, что решил начать формальное расследование после изучения имеющихся доказательств "как вопрос наивысшего приоритета".
В заявлении, распространенном в понедельник, Ofcom сказал: "Сообщения об использовании Grok для создания и распространения незаконных недобровольных интимных изображений и материалов о сексуальном насилии над детьми на X вызывают глубокую озабоченность".
"Платформы должны защищать людей в Великобритании от контента, который является незаконным в Великобритании, и мы не будем колебаться с расследованием, когда подозреваем, что компании не выполняют своих обязанностей, особенно когда существует риск причинения вреда детям", - говорится в заявлении.
Как ранее сообщал Fox News Digital, чат-бот признался в публичном посте на X, что сгенерировал и поделился ИИ-изображением, изображающим двух маленьких девочек в сексуализированной одежде, назвав инцидент "сбоем защитных механизмов" и извинившись за причиненный вред.
На фоне растущей критики Grok подтвердил, что начал ограничивать некоторые функции генерации и редактирования изображений для платящих подписчиков. Чат-бот заявил, что ограничения были введены для предотвращения дальнейшего misuse.
Маск также обвинил правительство Великобритании в "фашизме" в понедельник за "аресты тысяч людей за посты в социальных сетях".
Миллиардер, основатель Tesla, ответил на пост в X, в котором утверждалось, что страна арестовывает больше людей за посты в социальных сетях, чем "любая другая страна на земле".
Наряду с расследованием Ofcom, правительство Великобритании объявило, что законодательство, криминализирующее создание недобровольных интимных изображений, сгенерированных ИИ, вступит в силу на этой неделе.
Кендалл сказала, что ответственность лежит не только на отдельных лицах.
"Платформы, которые размещают такой материал, должны быть привлечены к ответственности, включая X", - сказала она.
Если они не будут действовать, она готова "пойти дальше".
Тем временем официальный представитель премьер-министра Великобритании Кира Стармера заявил, что присутствие правительства на платформе "находится на рассмотрении" и что "все варианты на столе".
Associated Press также сообщило в понедельник, что Малайзия и Индонезия стали первыми странами, заблокировавшими Grok.
Fox News Digital связался с Илоном Маском и офисом премьер-министра Кира Стармера для комментариев.
Associated Press и Reuters внесли вклад в этот репортаж.
Эмма Басси — писатель экстренных новостей для Fox News Digital. До прихода в Fox она работала в The Telegraph в ночной команде по США, на различных отделах, включая иностранные дела, политику, новости, спорт и культуру.
