Чат-боты на основе искусственного интеллекта быстро становятся основным способом взаимодействия людей с интернетом. Вместо просмотра списка ссылок теперь можно получить прямые ответы на свои вопросы. Однако эти инструменты часто предоставляют информацию, которая полностью неверна, и в контексте безопасности это может быть опасным. На самом деле исследователи в области кибербезопасности предупреждают, что хакеры начали эксплуатировать уязвимости в этих чат-ботах для проведения атак фишинга с использованием искусственного интеллекта.
Конкретно, когда люди используют искусственный интеллект для поиска страниц входа, особенно для банковских и технологических платформ, инструменты возвращают неверные ссылки. И как только вы перейдете по этой ссылке, вас может перенаправить на фейковые веб-сайты. Эти сайты могут затем использоваться для кражи личной информации или учетных данных.
Подпишитесь на мой БЕСПЛАТНЫЙ отчет КиберГаяПолучите мои лучшие технические советы, срочные предупреждения о безопасности и эксклюзивные предложения прямо на свой почтовый ящик. Кроме того, вы получите мгновенный доступ к моему Руководству по выживанию от мошенников - бесплатно, когда присоединитесь к моему CYBERGUY.COM/NEWSLETTER.
Что вам нужно знать о атаках фишинга с использованием искусственного интеллекта
Исследователи из Netcraft недавно провели тест на семействе моделей GPT-4.1, которое также используется ИИ-поисковым движком Bing и поисковым движком Perplexity. Они спросили, где войти на пятьдесят разных брендов из банковского, розничного и технологического секторов.
Из 131 уникальной ссылки, возвращенной чат-ботом, только около двух третей были правильными. Примерно 30 процентов ссылок указывали на незарегистрированные или неактивные домены. Еще пять процентов вели на несвязанные веб-сайты. В общей сложности более трети ответов вели на страницы, не принадлежащие реальным компаниям. Это означает, что человек, ищущий ссылку для входа, легко может оказаться на фейковом или небезопасном сайте.
Если злоумышленники зарегистрируют эти незахваченные домены, они могут создать убедительные страницы фишинга и подождать. Поскольку предоставленный ИИ-ответ часто звучит официально, пользователи склонны доверять ему, не проверяя информацию.
Атаки фишинга с использованием искусственного интеллекта уже происходят: Реальный пример
В одном из недавних случаев пользователь запросил у ИИ Perplexity страницу входа в Wells Fargo. Первым результатом не был официальный сайт Wells Fargo; это была фишинговая страница, размещенная на Google Sites. Фейковый сайт тесно имитировал реальный дизайн и просил пользователей вводить личную информацию. Хотя правильный сайт был указан ниже, многие не заметили бы или не подумали бы проверить ссылку.
Проблема в этом случае не была связана с базовой моделью Perplexity. Она возникла из злоупотребления Google Sites и отсутствия проверки результатов поиска, предоставленных инструментом. Тем не менее результат оказался таким же: доверенная платформа ИИ случайно направила кого-то на фейковый финансовый веб-сайт.
Более мелкие банки и региональные кредитные союзы сталкиваются с еще большими рисками. Такие учреждения менее вероятно появляются в данных для обучения ИИ или точно индексируются в сети. В результате инструменты ИИ более подвержены догадкам или выдумыванию ссылок при запросе о них, повышая риск подвергнуть пользователей опасным местам.
7 способов защитить себя от атак фишинга с использованием искусственного интеллекта
Поскольку атаки фишинга с использованием искусственного интеллекта становятся все более сложными, защитить себя начинается с нескольких умных привычек. Вот семь, которые могут действительно изменить ситуацию:
1) Никогда не доверяйте ссылкам от чат-ботов ИИ слепо
Чат-боты на основе ИИ часто звучат уверенно, даже когда они ошибаются. Если чат-бот говорит вам, где войти, не нажимайте на ссылку сразу. Вместо этого переходите непосредственно на веб-сайт, введя его URL вручную или используя надежную закладку.
2) Тщательно проверяйте доменные имена
Фишинговые ссылки, созданные ИИ, часто используют похожие домены. Проверьте на наличие тонких ошибок в написании, лишние слова или необычные окончания, такие как ".site" или ".info" вместо ".com". Если что-то кажется даже слегка подозрительным, не продолжайте.
3) Используйте двухфакторную аутентификацию (2FA) везде, где это возможно
Даже если ваши учетные данные были украдены, 2FA добавляет дополнительный уровень безопасности. Выбирайте аутентификаторы на основе приложений, такие как Google Authenticator или Authy, вместо кодов на основе SMS, когда это возможно.
4) Избегайте входа через поисковые системы или инструменты ИИ
Если вам нужно получить доступ к своему банковскому или технологическому аккаунту, избегайте поиска или обращения к чат-боту. Используйте закладки своего браузера или введите официальный URL непосредственно. ИИ и поисковые системы иногда могут по ошибке показывать страницы фишинга.
5) Сообщайте о подозрительных ссылках, сгенерированных ИИ
Если чат-бот или инструмент ИИ дает вам опасную или фейковую ссылку, сообщите об этом. Многие платформы предоставляют возможность обратной связи от пользователей. Это помогает ИИ-системам учиться и уменьшает будущие риски для других.
6) Обновляйте свой браузер и используйте мощное антивирусное программное обеспечение
Современные браузеры, такие как Chrome, Safari и Edge, включают защиту от фишинга и вредоносного программного обеспечения. Включите эти функции и поддерживайте все обновления. Если вы хотите дополнительную защиту, лучший способ обезопасить себя от вредоносных ссылок - установить мощное антивирусное программное обеспечение на все ваши устройства. Эта защита также может предупреждать вас о фишинговых электронных письмах и атаках вымогательства, обеспечивая безопасность вашей личной информации и цифровых активов.
Получите мои рекомендации лучших победителей в области антивирусной защиты 2025 года для ваших устройств Windows, Mac, Android и iOS на CyberGuy.com/LockUpYourTech.
7) Используйте менеджер паролей
Менеджеры паролей не только генерируют надежные пароли, но также могут помочь обнаружить фейковые веб-сайты. Обычно они не автоматически заполняют поля входа на похожих или поддельных сайтах.
Познакомьтесь с лучшими экспертно оцененными менеджерами паролей 2025 года на Cyberguy.com/Passwords.
Основной вывод Курта
Злоумышленники меняют свои тактики. Вместо того, чтобы обманывать поисковые системы, они теперь специально разрабатывают контент для моделей искусственного интеллекта. Я постоянно настаиваю на том, чтобы вы дважды проверяли URL-адреса на несоответствия перед вводом какой-либо чувствительной информации. Поскольку чат-боты все еще известны своими крайне неточными ответами из-за галлюцинаций ИИ, убедитесь проверить всю информацию, которую вам сообщил чат-бот, прежде чем применять ее на практике.
Должны ли компании ИИ делать больше для предотвращения атак фишинга через свои чат-боты? Дайте нам знать, написав нам на Cyberguy.com/Contact.
Подпишитесь на мой БЕСПЛАТНЫЙ отчет КиберГаяПолучите мои лучшие технические советы, срочные предупреждения о безопасности и эксклюзивные предложения прямо на ваш почтовый ящик. Кроме того, вы получите мгновенный доступ к моему Руководству по выживанию от мошенников - бесплатно, когда присоединитесь к моему CYBERGUY.COM/NEWSLETTER.
Авторские права 2025 CyberGuy.com. Все права защищены.
Курт "КиберГай" Кнутссон - награжденный журналист по технологиям, который с глубокой любовью относится к технологиям, оборудованию и гаджетам, которые делают жизнь лучше, с его вкладами в Fox News & FOX Business начиная с утра на "FOX & Friends." Есть вопрос по технологиям? Получите бесплатную рассылку КиберГая Курта, поделитесь своим мнением, идеей для статьи или комментарием на CyberGuy.com.
