Технологии

OpenAI признаёт, что атаки на промпты в ИИ-браузерах неразрешимы.

Почему браузеры с ИИ остаются рискованными, почему инъекция промптов никуда не денется, компромисс рисков с ИИ-браузерами, семь шагов для снижения угроз и ключевой вывод Курта.

Опубликовано 2026-01-04T23:15:21.299Z

Fox News Flash top headlines for January 2

Киберпреступникам больше не всегда нужны вредоносные программы или эксплойты для взлома систем. Иногда им просто нужны правильные слова в нужном месте. OpenAI теперь открыто признаёт эту реальность. Компания заявляет, что атаки методом инъекции промптов (prompt injection) на браузеры с искусственным интеллектом (ИИ) — это не ошибка, которую можно полностью исправить, а долгосрочный риск, связанный с тем, что ИИ-агентам позволяют свободно перемещаться по открытой сети. Это вызывает неудобные вопросы о том, насколько безопасны эти инструменты, особенно по мере того, как они получают больше автономии и доступа к вашим данным.

Подпишитесь на мою БЕСПЛАТНУЮ CyberGuy Report

Получайте мои лучшие технические советы, срочные оповещения о безопасности и эксклюзивные предложения прямо на свою почту. Кроме того, вы получите мгновенный доступ к моему «Руководству по выживанию при мошенничестве» — бесплатно при подписке на мою рассылку CYBERGUY.COM.

Outsmart hackers who are out to steal your identity

Почему инъекция промптов никуда не денется

В недавнем сообщении в блоге OpenAI признала, что атаки методом инъекции промптов, скорее всего, никогда не будут полностью устранены. Инъекция промптов работает путём скрытия инструкций на веб-страницах, в документах или письмах таким образом, что люди их не замечают, а ИИ-агенты — замечают. Как только ИИ прочитает этот контент, его можно обманом заставить следовать злонамеренным инструкциям.

OpenAI сравнила эту проблему с мошенничеством и социальной инженерией. Их можно уменьшить, но нельзя заставить исчезнуть. Компания также признала, что «агентский режим» в её браузере ChatGPT Atlas увеличивает риски, поскольку расширяет поверхность атаки. Чем больше ИИ может делать от вашего имени, тем больший ущерб он может причинить, если что-то пойдёт не так.

OpenAI запустила браузер ChatGPT Atlas в октябре, и исследователи безопасности сразу же начали тестировать его пределы. В течение нескольких часов появились демонстрации, показывающие, что несколько тщательно размещённых слов в документе Google могут влиять на поведение браузера. В тот же день Brave опубликовала своё предупреждение, объяснив, что косвенная инъекция промптов является структурной проблемой для браузеров на базе ИИ, включая такие инструменты, как Comet от Perplexity.

Это не только проблема OpenAI. Ранее в этом месяце Национальный центр кибербезопасности Великобритании предупредил, что атаки методом инъекции промптов на системы генеративного ИИ, возможно, никогда не будут полностью устранены.

Компромисс между риском и возможностями ИИ-браузеров

ChatGPT Atlas screen in an auditorium

OpenAI заявляет, что рассматривает инъекцию промптов как долгосрочную проблему безопасности, требующую постоянного давления, а не единовременного исправления. Её подход опирается на более быстрые циклы выпуска исправлений, непрерывное тестирование и многоуровневую защиту. Это в целом согласуется с подходом конкурентов, таких как Anthropic и Google, которые утверждали, что агентским системам необходимы архитектурный контроль и постоянное стресс-тестирование.

Отличие подхода OpenAI заключается в том, что она называет «автоматизированным злоумышленником на основе LLM». Проще говоря, OpenAI обучила ИИ действовать как хакер. Используя обучение с подкреплением, этот бот-атакующий ищет способы незаметно внедрить злонамеренные инструкции в рабочий процесс ИИ-агента.

Бот сначала проводит атаки в симуляции. Он предсказывает, как будет рассуждать целевой ИИ, какие шаги он предпримет и где может потерпеть неудачу. На основе этой обратной связи он совершенствует атаку и пробует снова. Поскольку эта система имеет представление о внутреннем процессе принятия решений ИИ, OpenAI считает, что она может выявлять уязвимости быстрее, чем злоумышленники в реальном мире.

Даже с такими средствами защиты ИИ-браузеры небезопасны. Они объединяют две вещи, которые любят атакующие: автономность и доступ. В отличие от обычных браузеров, они не просто отображают информацию, но также читают письма, сканируют документы, переходят по ссылкам и совершают действия от вашего имени. Это означает, что один злонамеренный промпт, скрытый на веб-странице, в документе или сообщении, может повлиять на действия ИИ без вашего ведома. Даже при наличии защитных механизмов эти агенты работают, доверяя контенту в больших масштабах, и этим доверием можно манипулировать.

7 шагов, которые вы можете предпринять, чтобы снизить риск при использовании ИИ-браузеров

Вы не можете устранить атаки методом инъекции промптов, но можете значительно ограничить их последствия, изменив способ использования ИИ-инструментов.

Person wearing a hoodie works on multiple computer screens displaying digital data in a dark room.

1) Ограничьте доступ ИИ-браузера

Предоставляйте ИИ-браузеру доступ только к тому, что ему абсолютно необходимо. Избегайте подключения основного почтового аккаунта, облачного хранилища или платежных данных, если для этого нет веской причины. Чем больше данных может видеть ИИ, тем более ценным он становится для атакующих. Ограничение доступа уменьшает масштаб возможного ущерба, если что-то пойдет не так.

2) Требуйте подтверждения для каждого важного действия

Никогда не разрешайте ИИ-браузеру отправлять письма, совершать покупки или изменять настройки аккаунта без предварительного запроса у вас. Подтверждение прерывает длинные цепочки атак и дает вам момент, чтобы заметить подозрительное поведение. Многие атаки с инъекцией промптов полагаются на то, что ИИ действует тихо в фоновом режиме без проверки пользователем.

3) Используйте менеджер паролей для всех аккаунтов

Менеджер паролей гарантирует, что у каждого аккаунта будет уникальный, надежный пароль. Если ИИ-браузер или вредоносная страница раскроют один пароль, злоумышленники не смогут использовать его повторно в другом месте. Многие менеджеры паролей также отказываются автоматически заполнять данные на незнакомых или подозрительных сайтах, что может предупредить вас о проблеме до того, как вы что-либо введете вручную.

Далее, проверьте, не фигурировал ли ваш email в прошлых утечках данных. Наш выбор менеджера паролей №1 (см. Cyberguy.com) включает встроенный сканер утечек, который проверяет, появлялись ли ваш email или пароли в известных утечках. Если вы обнаружите совпадение, немедленно измените все повторно использованные пароли и защитите эти аккаунты новыми уникальными учетными данными.

Ознакомьтесь с лучшими экспертно оцененными менеджерами паролей 2025 года на Cyberguy.com

4) Установите надежное антивирусное ПО на свое устройство

Даже если атака начинается внутри браузера, антивирусное ПО все равно может обнаружить подозрительные скрипты, несанкционированные изменения в системе или вредоносную сетевую активность. Надежное антивирусное ПО фокусируется на поведении, а не только на файлах, что критически важно при работе с атаками на основе ИИ или скриптов.

Лучший способ защитить себя от вредоносных ссылок, которые устанавливают вредоносное ПО и потенциально получают доступ к вашей личной информации, — это установить надежное антивирусное ПО на все ваши устройства. Эта защита также может предупреждать о фишинговых письмах и скамах с вымогательством, обеспечивая безопасность вашей личной информации и цифровых активов.

Получите мои рекомендации по лучшим антивирусным решениям 2025 года для ваших устройств Windows, Mac, Android и iOS на Cyberguy.com

5) Избегайте широких или открытых инструкций

Давать ИИ-браузеру указание «разобраться со всем необходимым» дает атакующим пространство для манипуляций через скрытые промпты. Будьте конкретны в том, что ИИ разрешено делать, а что — никогда не разрешено. Узкие инструкции затрудняют влияние злонамеренного контента на агента.

6) Будьте осторожны с ИИ-резюме и автоматическим сканированием

Когда ИИ-браузер сканирует для вас письма, документы или веб-страницы, помните, что внутри этого контента могут быть скрытые инструкции. Рассматривайте действия, сгенерированные ИИ, как черновики или предложения, а не как окончательные решения. Просматривайте всё, что ИИ планирует сделать, прежде чем одобрить это.

7) Своевременно обновляйте браузер, ИИ-инструменты и операционную систему

Исправления безопасности для ИИ-браузеров быстро развиваются по мере появления новых методов атак. Задержка обновлений оставляет известные уязвимости открытыми дольше, чем необходимо. Включение автоматических обновлений гарантирует, что вы получите защиту, как только она станет доступной, даже если вы пропустили анонс.

Ключевой вывод Курта

Мы наблюдаем стремительный рост числа ИИ-браузеров. Теперь мы видим их от крупных технологических компаний, включая Atlas от OpenAI, Dia от The Browser Company и Comet от Perplexity. Даже существующие браузеры, такие как Chrome и Edge, активно стремятся добавить функции ИИ и агентские возможности в свою текущую инфраструктуру. Хотя эти браузеры могут быть полезны, технология еще молода. Лучше не поддаваться на шумиху и подождать, пока она созреет.

Как вы думаете, стоят ли ИИ-браузеры сегодня риска или они развиваются быстрее, чем может угнаться безопасность? Дайте нам знать, написав нам на Cyberguy.com