Искусственный интеллект в наши дни везде — в вашем телефоне, вашем автомобиле, даже в вашей стиральной машине. Недавно я видел встроенный ИИ в одном устройстве. И хотя это может звучать немного чересчур, неотрицаемо, что искусственный интеллект значительно облегчил жизнь во многих отношениях.
Он повышает производительность, открывает новые творческие инструменты и меняет то, как мы работаем и живем. Самая распространенная версия, с которой вы, вероятно, сталкивались? Генеративный ИИ, как чатботы типа ChatGPT. Но, несмотря на все полезные возможности этой технологии, она не без проблем.
Если вы использовали пакет Google Workspace, вы могли заметить модель ИИ компании, Gemini, интегрированную в приложения, такие как Docs, Sheets и Gmail. Теперь исследователи говорят, что злоумышленники могут манипулировать созданными Gemini электронными сводками, чтобы скрытно внедрить подсказки для фишинга.
Подпишитесь на мой БЕСПЛАТНЫЙ отчет CyberGuy, получите мои лучшие технологические советы, срочные уведомления о безопасности и эксклюзивные предложения прямо на вашу почту. Кроме того, вы получите мгновенный доступ к моему Руководству по выживанию от мошенничества — бесплатно при подписке на мой CYBERGUY.COM/NEWSLETTER
Как можно взломать сводки Gemini
Исследователи из Mozilla's 0Din обнаружили уязвимость в Gemini для Google Workspace, которая позволяет злоумышленникам внедрять скрытые инструкции в электронные сводки. Проблема, продемонстрированная Марко Фигероа, показывает, как генеративные инструменты ИИ могут быть обмануты через косвенное внедрение подсказок. Эта техника встраивает невидимые команды в тело электронного письма. Когда Gemini составляет сводку сообщения, он интерпретирует и действует в соответствии с этими скрытыми подсказками.
Атака не зависит от подозрительных ссылок или вложений. Вместо этого она использует комбинацию HTML и CSS, чтобы скрыть подсказку, устанавливая размер шрифта нулевым и цвет белым. Эти команды остаются невидимыми в стандартном представлении Gmail, но остаются доступными для Gemini. После запроса сводки ИИ можно обмануть, представив фальшивые предупреждения о безопасности или срочные инструкции, которые кажутся исходящими от Google.
В доказательстве концепции Gemini ложно предупредил пользователя о компрометации пароля Gmail и включил фальшивый номер телефона службы поддержки. Поскольку сводки Gemini интегрированы в Google Workspace, вы более склонны доверять информации, делая эту тактику особенно эффективной.
Что делает Google, чтобы устранить уязвимость?
Хотя Google уже реализовал защиту от внедрения подсказок с 2024 года, эта методика, кажется, обходит текущие меры защиты. Компания сообщила CyberGuy, что активно внедряет обновленные средства защиты.
В заявлении представитель Google сказал: "Защита от атак, затрагивающих отрасль, как инъекции подсказок, остается для нас постоянным приоритетом, и мы внедряем множество сильных защитных мер, чтобы обезопасить пользователей, включая меры, предотвращающие вредные или вводящие в заблуждение ответы. Мы постоянно укрепляем наши уже надежные меры защиты через упражнения по тестированию на проникновение, которые обучают наши модели защищаться от таких видов атак".
Google также подтвердил, что не наблюдал активной эксплуатации этой конкретной техники.
6 способов защитить себя от фишинговых атак, использующих ИИ
Как можно защитить себя от фишинговых атак, использующих инструменты ИИ, такие как Gemini? Вот шесть основных шагов, которые вы можете предпринять прямо сейчас, чтобы остаться в безопасности:
1. Не слепо доверяйте контенту, созданному ИИ
Просто потому что сводка появляется в Gmail или Docs, не означает, что она автоматически безопасна. Относитесь с осторожностью к предложениям, предупреждениям или ссылкам, созданным ИИ, также как к любому незапрошенному сообщению. Всегда проверяйте критическую информацию, такую как предупреждения о безопасности или номера телефонов, через официальные источники.
2. Избегайте использования функций сводок для подозрительных писем
Если электронное письмо кажется необычным, особенно если оно неожиданное или от незнакомого отправителя, избегайте использования функции сводок ИИ. Вместо этого читайте полное письмо, как оно было написано изначально. Это снизит вероятность попадания на манипулированные сводки.
3. Остерегайтесь фишинговых писем и сообщений
Будьте бдительны к письмам или сообщениям, создающим чувство срочности, требующим подтверждения деталей учетной записи или предоставления неожиданных ссылок или контактной информации, даже если они кажутся надежными или приходят от знакомых источников. Злоумышленники могут использовать ИИ для создания реалистично выглядящих предупреждений или запросов о чувствительной информации, иногда скрытых в автоматически созданных сводках. Поэтому всегда приостанавливайтесь и внимательно изучайте подозрительные подсказки перед ответом.
Лучший способ защитить себя от вредоносных ссылок, устанавливающих вредоносное ПО и потенциально получающих доступ к вашей личной информации, — установить антивирусное программное обеспечение на всех ваших устройствах. Эта защита также может предупредить вас о фишинговых электронных письмах и атаках вымогательством, сохраняя вашу личную информацию и цифровые активы в безопасности.
Получите мои рекомендации по лучшим антивирусным программам 2025 года для ваших устройств на Windows, Mac, Android и iOS на CyberGuy.com/LockUpYourTech
4. Обновляйте ваши приложения и расширения
Обеспечьте постоянное обновление Google Workspace и вашего браузера до последней версии. Google регулярно выпускает обновления безопасности, которые помогают предотвращать новые виды атак. Также избегайте использования неофициальных расширений, имеющих доступ к вашему Gmail или Docs.
5. Инвестируйте в сервис удаления данных
Атаки, основанные на ИИ, такие как атака сводкой Gemini, не возникают в вакууме. Они часто начинаются с украденной личной информации. Эти данные могут быть получены из прошлых утечек, публичных записей или данных, которые вы ненамеренно раскрыли онлайн. Сервис по удалению данных может помочь, постоянно сканируя и запрашивая удаление вашей информации с сайтов брокеров данных. Хотя ни один сервис не может все удалить, уменьшение вашего цифрового следа делает сложнее для злоумышленников персонализировать фишинговые попытки или связать вас с известными данными о нарушениях. Подумайте о нем как о еще одном слое защиты в мире, где ИИ делает целенаправленные мошеннические схемы еще проще.
Ознакомьтесь с моими лучшими выборами сервисов по удалению данных и получите бесплатное сканирование, чтобы узнать, не раскрыта ли уже ваша личная информация в Интернете, посетив CyberGuy.com/Delete Получите бесплатное сканирование, чтобы узнать, не раскрыта ли уже ваша личная информация в Интернете: CyberGuy.com/FreeScan
6. Отключите сводки ИИ, если вы обеспокоены
Если вы беспокоитесь о том, что можете стать жертвой фишинговой атаки, созданной ИИ, рассмотрите возможность отключения сводок Gemini в Gmail до тех пор, пока Google не внедрит более сильные меры защиты. Вы по-прежнему сможете читать полные письма традиционным способом, что снизит риск попадания на манипулированные сводки.
Как отключить функции Gemini на рабочем столе
Как отключить функции Gemini на мобильном устройстве
На iPhone:
Если вы используете специальное мобильное приложение Gemini:
На Android:
Настройки могут различаться в зависимости от производителя вашего телефона на Android.
Важные оговорки:
Нет централизованного одного "выключателя" для полного удаления всех ссылок на Gemini AI везде, но эти шаги значительно снижают присутствие и риск этой функции.
Основной вывод Курта
Эта уязвимость подчеркивает, как тактики фишинга развиваются параллельно с ИИ. Вместо полагания на явные сигналы, такие как ошибки в URL-адресах или подозрительные вложения, злоумышленники сейчас нацеливаются на доверенные системы, которые помогают пользователям фильтровать и интерпретировать сообщения. Поскольку ИИ все глубже встраивается в инструменты продуктивности, инъекция подсказок может стать тонким, но мощным вектором социальной инженерии, скрывая злонамеренные намерения в средствах, созданных для упрощения коммуникации.
Нас
