Группа хакеров из Северной Кореи, известная как Kimsuky, использовала ChatGPT для создания поддельного черновика удостоверения личности южнокорейского военного. Сфальсифицированные удостоверения были затем прикреплены к фишинговым письмам, которые выдавали себя за южнокорейское оборонное учреждение, ответственное за выдачу пропусков чиновникам, связанным с военными. О кампании сообщила южнокорейская кибербезопасная компания Genians в недавнем посте в блоге. Хотя в ChatGPT есть защитные механизмы, блокирующие попытки генерации государственных удостоверений, хакеры обманули систему. Genians сообщила, что модель создавала реалистично выглядящие макеты, когда запросы формулировались как «образцы дизайна для законных целей».
Подпишитесь на мой БЕСПЛАТНЫй отчет CyberGuy ReportПолучайте мои лучшие технические советы, срочные оповещения о безопасности и эксклюзивные предложения прямо на вашу почту. Плюс, вы получите мгновенный доступ к моему Руководству по выживанию при мошенничестве — бесплатно при подписке на мою рассылку CyberGuy.com/Newsletter
Как северокорейские хакеры используют ИИ для глобального шпионажа
Kimsuky — это не мелкий игрок. Группа была связана с чередой шпионских кампаний против Южной Кореи, Японии и США. Еще в 2020 году Министерство внутренней безопасности США заявило, что Kimsuky, «скорее всего, поставлена северокорейским режимом для выполнения глобальной миссии по сбору разведданных». Genians, которая раскрыла схему с поддельными удостоверениями, заявила, что этот последний случай подчеркивает, насколько генеративный ИИ изменил правила игры.
«Генеративный ИИ снизил порог входа для сложных атак. Как показывает этот случай, хакеры теперь могут производить высокоубедительные поддельные удостоверения и другие мошеннические активы в больших масштабах. Реальная проблема не в одном поддельном документе, а в том, как эти инструменты используются в сочетании. За письмом с поддельным вложением может последовать телефонный звонок или даже появление на видео, которое усиливает обман. Когда каждый канал оценивается изолированно, атаки succeed. Единственная устойчивая защита — это проверка по множеству сигналов, таких как голос, видео, электронная почта и метаданные, чтобы выявить несоответствия, которые мошенничество на основе ИИ не может идеально скрыть», — предупредил Сэнди Кроненберг, генеральный директор и основатель Netarx, компании по кибербезопасности и ИТ-услугам.
Китайские хакеры также используют ИИ для кибератак
Северная Корея — не единственная страна, использующая ИИ для кибератак. Anthropic, исследовательская компания в области ИИ и создатель чат-бота Claude, сообщила, что китайский хакер использовал Claude в качестве полнофункционального помощника по кибератакам в течение более девяти месяцев. Хакер нацеливался на вьетнамских телекоммуникационных провайдеров, сельскохозяйственные системы и даже правительственные базы данных.
По данным OpenAI, китайские хакеры также использовали ChatGPT для создания скриптов подбора паролей и поиска конфиденциальной информации о сетях обороны США, спутниковых системах и системах верификации личности. Некоторые операции даже использовали ChatGPT для генерации поддельных постов в соцсетях, предназначенных для разжигания политических раздоров в США.
Google наблюдал подобное поведение со своей моделью Gemini. Сообщается, что китайские группы использовали ее для устранения неполадок в коде и расширения доступа к сетям, в то время как северокорейские хакеры полагались на Gemini для составления сопроводительных писем и поиска вакансий в IT-сфере.
Почему угрозы взлома с помощью ИИ важны сейчас
Эксперты по кибербезопасности заявляют, что этот сдвиг вызывает тревогу. Инструменты ИИ делают как никогда простым для хакеров запуск убедительных фишинговых атак, генерацию безупречных мошеннических сообщений и сокрытие вредоносного кода.
«Новость о том, что северокорейские хакеры использовали генеративный ИИ для подделки дипфейк-военных удостоверений, — это сигнал тревоги: правила игры в фишинг изменились, и старые сигналы, на которые мы полагались, исчезли», — пояснил Клайд Уильямсон, старший архитектор безопасности продуктов в Protegrity, компании по защите данных и конфиденциальности. «Годами сотрудников учили искать опечатки или проблемы с форматированием. Этот совет больше не применим. Они обманули ChatGPT, заставив его разработать поддельные военные удостоверения, попросив «образцы шаблонов». Результат выглядел чистым, профессиональным и убедительным. Обычные красные флаги — опечатки, странное форматирование, ломаный английский — отсутствовали. ИИ все это вычистил».
«Обучение безопасности нуждается в перезагрузке. Нам нужно учить людей сосредотачиваться на контексте, намерении и проверке. Это означает поощрение команд замедляться, проверять информацию об отправителе, подтверждать запросы через другие каналы и сообщать обо всем, что кажется подозрительным. Нет стыда в том, чтобы задавать вопросы», — добавил Уильямсон. «Что касается технологий, компаниям следует инвестировать в аутентификацию электронной почты, MFA, устойчивую к фишингу, и мониторинг в реальном времени. Угрозы стали быстрее, умнее и убедительнее. Наша защита должна быть такой же. А для частных лиц? Будьте начеку. Спросите себя, почему вы получаете сообщение, что оно просит вас сделать и как вы можете безопасно это подтвердить. Инструменты развиваются. Так должны и мы. Потому что если мы не адаптируемся, у среднего пользователя не будет шансов».
Как защитить себя от мошенничества с использованием ИИ
Сохранение безопасности в этой новой среде требует как осведомленности, так и действий. Вот шаги, которые вы можете предпринять прямо сейчас:
1) Не торопитесь, проверяйте и используйте надежный антивирус
Если вы получаете электронное письмо, сообщение или звонок, которые кажутся срочными, сделайте паузу. Проверьте запрос, связавшись с отправителем через другой доверенный канал, прежде чем действовать. В то же время защитите свои устройства надежным антивирусным ПО, чтобы перехватывать вредоносные ссылки и загрузки.
Лучший способ обезопасить себя от вредоносных ссылок, которые устанавливают вредоносное ПО, потенциально получая доступ к вашей личной информации, — это установить на все ваши устройства надежное антивирусное программное обеспечение. Эта защита также может предупреждать вас о фишинговых письмах и ransomware-аферах, сохраняя вашу личную информацию и цифровые активы в безопасности.
Получите мои выборы лучших антивирусов для защиты в 2025 году для ваших устройств Windows, Mac, Android и iOS на CyberGuy.com/LockUpYourTech
2) Используйте сервис удаления личных данных
Снизьте риск, удалив личную информацию с сайтов-агрегаторов данных. Эти сервисы могут помочь удалить конфиденциальные детали, которые мошенники часто используют в целевых атаках. Хотя ни один сервис не может гарантировать полное удаление ваших данных из интернета, сервис удаления данных — действительно разумный выбор. Они не дешевы, как и ваша конфиденциальность. Эти сервисы делают всю работу за вас, активно отслеживая и систематически удаляя вашу личную информацию с сотен веб-сайтов. Это то, что дает мне душевное спокойствие и доказало свою эффективность как способ стереть ваши личные данные из интернета. Ограничивая доступную информацию, вы снижаете риск того, что мошенники будут сопоставлять данные из утечек с информацией, которую они могут найти в даркнете, что затрудняет их нацеливание на вас.
Ознакомьтесь с моими лучшими предложениями по сервисам удаления данных и получите бесплатное сканирование, чтобы узнать, не оказалась ли ваша личная информация уже в сети, посетив CyberGuy.com/DeleteПолучите бесплатное сканирование, чтобы узнать, не оказалась ли ваша личная информация уже в сети: Cyberguy.com/FreeScan
3) Внимательно проверяйте данные отправителя
Посмотрите на адрес электронной почты, номер телефона или handle в соцсетях. Даже если сообщение выглядит отполированным, небольшое несоответствие может выявить аферу.
4) Используйте многофакторную аутентификацию (MFA)
Включите многофакторную аутентификацию (MFA) для своих аккаунтов. Это добавляет дополнительный уровень защиты, даже если хакеры украдут ваш пароль.
5) Обновляйте программное обеспечение
Обновляйте свою операционную систему, приложения и инструменты безопасности. Многие обновления исправляют уязвимости, которые пытаются использовать хакеры.
6) Сообщайте о подозрительных сообщениях
Если что-то кажется подозрительным, сообщите об этом своей ИТ-команде или поставщику электронной почты. Раннее сообщение может предотвратить более широкий ущерб.
7) Ставьте под вопрос контекст
Спросите себя, почему вы получаете это сообщение. Имеет ли оно смысл? Является ли запрос необычным? Доверяйте своим инстинктам и подтверждайте, прежде чем предпринимать действия.
Ключевые выводы Курта
ИИ переписывает правила кибербезопасности. Северокорейские и китайские хакеры уже используют такие инструменты, как ChatGPT, Claude и Gemini, для взлома компаний, подделки личностей и проведения сложных афер. Их атаки стали чище, быстрее и убедительнее, чем когда-либо прежде. Оставаться в безопасности означает постоянно быть начеку. Компаниям необходимо обновлять обучение и выстраивать более сильную защиту. Обычные пользователи должны замедляться, ставить под сомнение то, что видят, и перепроверять, прежде чем доверять любому цифровому запросу.
Как вы считаете, достаточно ли ИИ-компании делают, чтобы остановить хакеров от misuse их инструментов, или ответственность ложится слишком heavily на обычных пользователей? Сообщите нам, написав нам на CyberGuy.com/Contact
Подпишитесь на мой БЕСПЛАТНЫй отчет CyberGuy ReportПолучайте мои лучшие технические советы, срочные оповещения о безопасности и эксклюзивные предложения прямо на вашу почту. Плюс, вы получите мгновенный доступ к моему Руководству по выживанию при мошенничестве — бесплатно при подписке на мою рассылку CyberGuy.com/Newsletter
Copyright 2025 CyberGuy.com. All rights reserved.
Курт "КиберПарень" Кнудссон — удостоенный наград технический журналист, который имеет глубокую любовь к технологиям, оборудованию и гаджетам, которые делают жизнь лучше, благодаря его вкладу в Fox News и FOX Business, начиная с утра в «FOX & Friends». Есть технический вопрос? Получите бесплатную рассылку Курта CyberGuy, поделитесь своим мнением, идеей для истории или комментарием на CyberGuy.com.
