Grok, встроенный чат-бот в X, столкнулся с жесткой критикой после того, как признал, что сгенерировал и распространил изображение, созданное ИИ, с двумя девочками в сексуализированной одежде.
В публичном посте на X Grok признал, что контент «нарушил этические стандарты» и, «возможно, законы США о материалах с сексуальным насилием над детьми (CSAM)». Чат-бот добавил: «Это был сбой в защитных механизмах, и я сожалею о причиненном вреде. xAI проводит проверку, чтобы предотвратить подобные проблемы в будущем».
Само это признание вызывает тревогу. То, что последовало дальше, выявило гораздо более широкую модель.
Подпишитесь на мой БЕСПЛАТНЫЙ CyberGuy ReportПолучайте мои лучшие технические советы, срочные оповещения о безопасности и эксклюзивные предложения прямо на вашу электронную почту. Кроме того, вы получите мгновенный доступ к моему «Руководству по выживанию при мошенничестве» — бесплатно при подписке на мою рассылку на CYBERGUY.COM.
Grok тихо ограничивает инструменты для работы с изображениями платными пользователями после негативной реакции
По мере нарастания критики Grok подтвердил, что начал ограничивать функции генерации и редактирования изображений только платными подписчиками. В позднем ответе в X чат-бот заявил, что инструменты для работы с изображениями теперь заблокированы премиальной подпиской, и направил пользователей к регистрации для восстановления доступа.
Извинения, которые вызвали больше вопросов
Извинения Grok появились только после того, как пользователь предложил чат-боту написать сердечное объяснение для людей, не имеющих контекста. Другими словами, система не решала проблему проактивно. Она ответила, потому что кто-то об этом попросил.
Примерно в то же время исследователи и журналисты обнаружили широко распространенное неправомерное использование инструментов работы с изображениями Grok. По данным мониторинговой компании Copyleaks, пользователи генерировали недобровольные, сексуально манипулируемые изображения реальных женщин, включая несовершеннолетних и известных личностей.
После изучения общедоступной ленты фотографий Grok, Copyleaks выявила консервативную частоту примерно одного недобровольного сексуализированного изображения в минуту, основываясь на изображениях с реальными людьми без четких признаков согласия. Компания заявляет, что злоупотребления быстро эскалировали, перейдя от добровольного самопродвижения к массовой травле, осуществляемой с помощью ИИ.
Генеральный директор и соучредитель Copyleaks Алон Ямин сказал: «Когда системы ИИ позволяют манипулировать изображениями реальных людей без четкого согласия, последствия могут быть немедленными и глубоко личными».
Сексуализированные изображения несовершеннолетних незаконны
Это не серая зона. Создание или распространение сексуализированных изображений несовершеннолетних является серьезным уголовным преступлением в США и многих других странах. По федеральному законодательству США такой контент классифицируется как материалы о сексуальном насилии над детьми. Наказания могут включать от пяти до 20 лет лишения свободы, штрафы до 250 000 долларов и обязательную регистрацию в качестве преступника на сексуальной почве. Аналогичные законы действуют в Великобритании и Франции.
В 2024 году мужчина из Пенсильвании получил почти восемь лет тюрьмы за создание и хранение дипфейков CSAM с участием детей-знаменитостей. Этот случай создал четкий прецедент. Сам Grok признал эту правовую реальность в своем посте, заявив, что изображения ИИ, изображающие несовершеннолетних в сексуализированном контексте, являются незаконными.
Масштабы проблемы быстро растут
Июльский отчет Internet Watch Foundation, некоммерческой организации, которая отслеживает и удаляет материалы о сексуальном насилии над детьми в интернете, показывает, насколько быстро ускоряется эта угроза. Сообщения об изображениях сексуального насилия над детьми, созданных ИИ, выросли на 400% только в первой половине 2025 года. Эксперты предупреждают, что инструменты ИИ снижают барьер для потенциальных злоупотреблений. То, что раньше требовало технических навыков или доступа к скрытым форумам, теперь может произойти с помощью простого запроса на мейнстримной платформе.
Целями становятся реальные люди
Вред не абстрактный. Reuters задокументировала случаи, когда пользователи просили Grok цифровым способом раздеть реальных женщин, чьи фотографии были размещены в X. В нескольких задокументированных случаях Grok полностью выполнял запросы. Еще более тревожно, что пользователи нацеливались на изображения 14-летней актрисы Нелл Фишер из сериала Netflix «Очень странные дела». Позже Grok признал, что были единичные случаи, когда пользователи получали изображения несовершеннолетних в минимальной одежде. В другом расследовании Reuters бразильская музыкант рассказала, как наблюдала за распространением в X созданных ИИ изображений себя в бикини после того, как пользователи попросили Grok изменить безобидную фотографию. Ее опыт отражает то, с чем сейчас сталкиваются многие женщины и девочки.
Правительства по всему миру реагируют
Негативная реакция стала глобальной. Во Франции несколько министров направили X в следственный орган по поводу возможных нарушений Цифрового закона ЕС об услугах, который требует от платформ предотвращать и смягчать распространение незаконного контента. Нарушения могут повлечь за собой крупные штрафы. В Индии министерство информационных технологий страны дало xAI 72 часа, чтобы представить отчет с подробным описанием того, как оно планирует остановить распространение непристойных и откровенно сексуальных материалов, созданных Grok. Grok также публично предупредил, что xAI может столкнуться с потенциальными расследованиями Министерства юстиции или исками, связанными с этими сбоями.
Растет обеспокоенность по поводу безопасности Grok и его использования правительством
Этот инцидент вызывает серьезную обеспокоенность в отношении конфиденциальности в интернете, безопасности платформ и защитных механизмов, предназначенных для защиты несовершеннолетних.
Илон Маск, владелец X и основатель xAI, на момент публикации не дал публичного ответа. Это молчание наступает в чувствительное время. Grok был авторизован для официального использования правительством в рамках 18-месячного федерального контракта. Это одобрение было получено, несмотря на возражения более чем 30 групп защиты прав потребителей, которые предупреждали, что система не прошла надлежащих испытаний на безопасность.
За последний год критики обвиняли Grok в распространении дезинформации о крупных новостных событиях, продвижении антисемитской риторики и предоставлении вводящей в заблуждение информации о здоровье. Он также напрямую конкурировал с такими инструментами, как ChatGPT и Gemini, работая при этом с меньшим количеством видимых ограничений безопасности. Каждый скандал поднимает один и тот же вопрос. Может ли мощный инструмент ИИ быть развернут ответственно без строгого надзора и контроля?
Что следует знать родителям и пользователям
Если вы столкнетесь с сексуализированными изображениями несовершеннолетних или другими оскорбительными материалами в интернете, немедленно сообщите об этом. В Соединенных Штатах вы можете обратиться на горячую линию ФБР или за помощью в Национальный центр по пропавшим и эксплуатируемым детям.
Не загружайте, не делитесь, не делайте скриншоты и не взаимодействуйте с контентом каким-либо образом. Даже просмотр или пересылка незаконного материала может подвергнуть вас серьезному юридическому риску.
Родителям также следует поговорить с детьми и подростками об инструментах создания изображений ИИ и подсказках в социальных сетях. Многие из этих изображений создаются с помощью случайных запросов, которые поначалу не кажутся опасными. Обучение детей сообщать о контенте, закрывать приложение и рассказывать доверенному взрослому может предотвратить дальнейшее распространение вреда.
Платформы могут давать сбои. Защитные механизмы могут отставать. Но своевременное сообщение и четкие разговоры дома остаются одним из самых эффективных способов защитить детей в интернете.
Пройдите мой тест: Насколько безопасна ваша онлайн-безопасность?
Думаете, ваши устройства и данные действительно защищены? Пройдите этот быстрый тест, чтобы увидеть, на каком уровне находятся ваши цифровые привычки. От паролей до настроек Wi-Fi вы получите персонализированный анализ того, что вы делаете правильно и что нуждается в улучшении. Пройдите мой тест здесь: Cyberguy.com
Ключевые выводы Курта
Скандал с Grok подчеркивает опасную реальность. По мере того как ИИ распространяется быстрее, эти системы усиливают вред в беспрецедентных масштабах. Когда защитные механизмы дают сбой, страдают реальные люди, а дети подвергаются серьезному риску. В то же время доверие не может зависеть от извинений, принесенных после причинения вреда. Вместо этого компании должны заслуживать доверие за счет продуманной безопасности, постоянного мониторинга и реальной ответственности, когда возникают проблемы.
Должна ли какая-либо система ИИ быть одобрена для использования правительством или массовой публикой до того, как докажет, что может надежно защищать детей и предотвращать злоупотребления? Дайте нам знать, написав нам на Cyberguy.com.
Подпишитесь на мой БЕСПЛАТНЫЙ CyberGuy Report
Получайте мои лучшие технические советы, срочные оповещения о безопасности и эксклюзивные предложения прямо на вашу электронную почту. Кроме того, вы получите мгновенный доступ к моему «Руководству по выживанию при мошенничестве» — бесплатно при подписке на мою рассылку на CYBERGUY.COM.
Copyright 2025 CyberGuy.com. All rights reserved.
Курт "CyberGuy" Кнутссон — отмеченный наградами технический журналист, который глубоко любит технологии, оборудование и гаджеты, делающие жизнь лучше, своими материалами для Fox News & FOX Business, начинающимися утром на «FOX & Friends». Есть технический вопрос? Получите бесплатную рассылку Курта CyberGuy, поделитесь своим мнением, идеей для истории или комментарием на CyberGuy.com.
