Представь, что звонит телефон, а голос с той стороны звучит точно как ваш начальник, близкий друг или даже государственный чиновник. Они срочно просят чувствительную информацию, но на самом деле это не они. Это дипфейк, созданный при помощи ИИ, и вы являетесь целью изощренной мошеннической атаки. Такие атаки происходят прямо сейчас, и они становятся все более убедительными каждый день.
Об этом предупреждает отчет по безопасности в области ИИ на 2025 год, представленный на конференции RSA (RSAC) – одном из крупнейших собраний для экспертов по кибербезопасности, компаний и правоохранительных органов по всему миру. Отчет подробно описывает, как преступники используют искусственный интеллект для подражания людям, автоматизации мошеннических схем и атак на системы безопасности в масштабе.
От захваченных учетных записей ИИ и воздействия на модели до мошеннических видеозаписей в реальном времени и деградации данных – отчет рисует картину быстро развивающегося угрозового поля, которое затрагивает больше жизней, чем когда-либо прежде.
Получите мои экспертные технические советы, важные предупреждения о безопасности и эксклюзивные предложения - а также моментальный доступ к моему when you sign up!
Утечки чувствительных данных через ИИ-инструменты
Одним из крупнейших рисков использования ИИ-инструментов является то, что пользователи случайно передают им данные. Недавнее исследование кибербезопасной компании Check Point показало, что 1 из каждых 80 призывов к ИИ включает высокорисковые данные, а примерно 1 из 13 содержит чувствительную информацию, которая может подвергнуть пользователей или организации риску безопасности или соответствия.
Эти данные могут включать пароли, внутренние бизнес-планы, информацию о клиентах или защищенный код. Если эта информация передается ИИ-инструментам без защиты, она может быть сохранена, перехвачена или даже утекать позднее.
Дипфейк-мошенничеству теперь присущи реальное время и многоязычность
Имитация с помощью ИИ становится все более сложной с каждым месяцем. Преступники теперь могут убедительно фальсифицировать голоса и лица в реальном времени. В начале 2024 года британская инженерная компания потеряла 20 миллионов фунтов стерлингов после того, как мошенники использовали живое видео с дипфейками для подражания исполнительным директорам компании во время звонка через Zoom. Атакующие выглядели и звучали как доверенные лидеры и убедили сотрудника провести перевод средств.
Инструменты моментальной видеообработки теперь продаются на криминальных форумах. Эти инструменты могут менять лица и подражать речь во время видеозвонков на нескольких языках, что облегчает преступникам запуск мошеннических схем за границами.
ИИ масштабно запускает фишинговые и мошеннические операции
Социальная инженерия всегда была частью киберпреступности. Теперь это автоматизируется при помощи ИИ. Преступникам больше не нужно владеть языком жертвы, находиться онлайн постоянно или вручную писать убедительные сообщения.
Инструменты, такие как GoMailPro, используют ChatGPT для создания фишинговых и спам-писем с идеальной грамматикой и естественным тоном. Эти сообщения гораздо более убедительны, чем неряшливые мошеннические схемы прошлого. GoMailPro может генерировать тысячи уникальных электронных писем, каждое немного отличается по языку и настроению, что помогает им обходить фильтры спама. Он активно продвигается на подпольных форумах за около 500 долларов в месяц, что делает его широко доступным для злоумышленников.
Другой инструмент, X137 Telegram Console, использует Gemini AI для мониторинга и автоматического ответа на сообщения чата. Он может подражать агентам поддержки клиентов или известным контактам, проводя реальные беседы с несколькими целями одновременно. Ответы нецензурные, быстрые и настраиваются в зависимости от ответов жертвы, создавая иллюзию человека за экраном.
ИИ также поддерживает мошеннические операции типа шантажа на масштабном уровне. Это письма, которые ложно утверждают, что у них есть компрометирующие видео или фотографии, и требуют оплату для предотвращения их распространения. Вместо повторного использования одинакового сообщения мошенники теперь полагаются на ИИ, чтобы переписать угрозу десятками способов. Например, базовая фраза типа "Времени остается все меньше" может быть перефразирована как "Песочные часы почти опустели для вас", что делает сообщение более персональным и настойчивым, а также позволяет избежать обнаружения.
Используя искусственный интеллект и устраняя необходимость в языковой грамотности и ручной работе, эти инструменты ИИ позволяют преступникам значительно увеличить масштаб своих фишинговых операций. Даже неопытные мошенники теперь могут запускать крупные, персонализированные кампании практически без усилий.
Украденные учетные записи ИИ продаются в теневом интернете
Поскольку ИИ-инструменты становятся более популярными, преступники теперь нацеливаются на учетные записи, которые их используют. Хакеры крадут логины ChatGPT, ключи API OpenAI и другие учетные данные платформ, чтобы обойти ограничения использования и скрыть свою личность. Эти учетные записи часто крадутся через вредоносное ПО, фишинг или атаки на перегрузку учетных данных. Похищенные учетные данные затем продаются оптом на каналах Telegram и подпольных форумах. Некоторые атакующие даже используют инструменты, которые могут обойти двухфакторную аутентификацию и сессионные защиты. Эти украденные учетные записи позволяют преступникам получать доступ к мощным инструментам ИИ и использовать их для фишинга, генерирования вредоносного ПО и автоматизации мошеннических действий.
Взлом ИИ стал обычной тактикой
Преступники находят способы обойти встроенные правила безопасности в моделях ИИ. На темном интернете атакующие обмениваются методами взлома ИИ, чтобы он реагировал на запросы, которые обычно были бы заблокированы. Распространенные методы включают:
Некоторые модели ИИ могут даже быть обмануты для взлома самих себя. Атакующие подталкивают модель создать входные данные, вызывающие переопределение ее собственных ограничений. Это показывает, как системы ИИ могут быть манипулированы неожиданным и опасным образом.
ИИ-генерируемое злонамеренное ПО становится широко распространенным
Сейчас ИИ используется для создания вредоносного ПО, наборов для фишинга, скриптов вымогательства и многое другое. Недавно группировка FunkSac была идентифицирована как ведущая бандитская группа, использующая ИИ для создания вымогательства. Ее лидер признал, что по крайней мере 20% их атак основаны на ИИ. FunkSec также использовал ИИ для помощи в запуске атак, искусственно увеличивающих посещаемость сайтов или услуг фальшивым трафиком, что приводит к их падению или выходу из строя. Это известно как атаки отказа в обслуживании. Группа даже создала своего собственного чатбота на базе ИИ для продвижения своей деятельности и общения с жертвами на своем публичном веб-сайте.
Некоторые киберпреступники даже используют ИИ для помощи в маркетинге и анализе данных после атаки. Один инструмент, называемый Rhadamanthys Stealer 0.7, заявлял о использовании ИИ для "распознавания текста" для создания впечатления более продвинутости, однако исследователи позже обнаружили, что он использовал устаревшую технологию. Это показывает, как злоумышленники использовали модные термины связанные с ИИ, чтобы сделать свои инструменты более продвинутыми или доверенными для покупателей.
Другие инструменты более продвинуты. Один из примеров – DarkGPT, чатбот, созданный специально для обработки огромных баз данных украденной информации. После успешной атаки мошенники часто оказываются с логами, содержащими имена пользователей, пароли и другие личные данные. Вместо ручной сортировки этих данных они используют ИИ, чтобы быстро найти ценные учетные записи, к которым можно проникнуть, продать или использовать для более целевых атак, таких как вымогательство.
Получите a чтобы узнать, не были ли уже ваши личные данные в сети
Отравленные модели ИИ распространяют дезинформацию
Иногда злоумышленнику не нужно взламывать систему ИИ. Вместо этого они обманывают ее, питая ложной или вводящей в заблуждение информацией. Этот тактика называется отравлением ИИ и может привести к тому, что ИИ дает предвзятые, вредные или совершенно неверные ответы. Существует два основных способа, которыми это происходит:
В 2024 году атакующие загрузили 100 поддельных моделей ИИ на платформу с открытым исходным кодом Hugging Face. Эти зараженные модели выглядели как полезные инструменты, но при использовании их людьми могли распространяться ложная информация или зловредный код.
Крупномасштабным примером является группа русских пропагандистов под названием Pravda, которая опубликовала более 3,6 миллиона фальшивых статей в сети
