Как выявить дыры в безопасности в инструментах ChatGPT и других ИИ

Казалось бы, обеспечить безопасность будет легко, ведь искусственный интеллект становится все острее с каждым днем. Я имею в виду, что если он может мгновенно создавать сложный код, отбиться от киберпреступников будет проще простого, верно? Но, эй, не все так черно-бело.

Легко упустить из виду, что инструменты искусственного интеллекта, такие как ChatGPT и Gemini, уязвимы для угроз вредоносного ПО, но именно это может быть одной из причин, по которым вредоносные черви могут легче проникнуть, что может быть просто желанным ковриком для вредоносного ПО, чтобы вальсировать правильно. застигнув вас врасплох.

Итак, если вы используете ChatGPT или Gemini, вот что вам нужно знать об этом новом вредоносном черве. Хотя на данный момент это не реальная угроза, новое исследование и отчет говорят нам многое о потенциальных проблемах безопасности и головных болях, с которыми ИИ столкнется в будущем.

Исследователи раскрыли документ OpenAI и Google, а также тот факт, что «червь использует плохую архитектуру экосистемы GenAI и не является уязвимостью в сервисе GenAI».

Что такое компьютерный червь Morris II?

Конкретный компьютерный червь, о котором идет речь, представляет собой тип вредоносного ПО под названием Morris II, названного в честь червя Морриса, вредоносного ПО, обнаруженного в 1988 году после сбоя примерно 10% всех компьютеров, подключенных к Интернету в то время.

Однако в качестве резервной копии важно понимать, что компьютерный червь — это тип автономного вредоносного ПО, которое может копировать себя и распространяться на другие компьютеры, отравляя все на своем пути.

В этих обстоятельствах червь, о котором мы говорим, был разработан исследователями, чтобы понять некоторые уязвимости, которыми обладают инструменты ИИ-помощников, такие как ИИ-календари бронирования или службы электронной почты. Хотя на данный момент это не является прямой угрозой, для ваших инструментов ИИ она может появиться раньше, чем вы думаете.

Как работает этот компьютерный червь?

Morris II — это червь с нулевым щелчком мыши, который заражает системы генеративного искусственного интеллекта (GenAI), не требуя взаимодействия с пользователем. Платформы GenAI полагаются на подсказки, которые по сути представляют собой инструкции, представленные в текстовом формате.

Однако Моррис II может манипулировать этими подсказками. Он внедряет вредоносные подсказки, которые обманом заставляют систему GenAI выполнять вредоносные действия без ведома пользователя или даже самого GenAI. Например, червь может использовать взломанный почтовый помощник GenAI для рассылки фишинговых писем или спама, что потенциально может украсть или поставить под угрозу ваши данные.

Действия по защите от киберугрозы Morris II

Чтобы защитить себя от потенциальных угроз кибербезопасности, таких как компьютерный червь Morris II, вы можете предпринять следующие действия:

Будьте осторожны с электронными письмами: не открывайте вложения к электронной почте и не нажимайте на ссылки из неизвестных или ненадежных источников.

Используйте антивирусное программное обеспечение. Инвестируйте в надежное антивирусное программное обеспечение, которое может обнаруживать и удалять вредоносные программы, включая компьютерных червей. Лучший способ защитить себя от перехода по вредоносным ссылкам, которые устанавливают вредоносное ПО, которое может получить доступ к вашей личной информации, — это установить антивирусную защиту на всех ваших устройствах. Это также может предупредить вас о любых фишинговых письмах или программах-вымогателях. Получите мой выбор лучших победителей антивирусной защиты 2024 года для ваших устройств Windows, Mac, Android и iOS.

Постоянно обновляйте системы. Регулярно обновляйте свою операционную систему и приложения, чтобы устранить любые уязвимости безопасности.

Используйте надежные пароли: создавайте сложные пароли, которые трудно угадать, и используйте разные пароли для разных учетных записей. Рассмотрите возможность использования менеджера паролей для создания и хранения сложных паролей.

Резервное копирование данных. Регулярно создавайте резервные копии важных данных на внешнем диске или в облачном хранилище, чтобы предотвратить потерю в случае заражения.

Ограничьте обмен файлами. Будьте осторожны при загрузке файлов из одноранговых сетей или файлообменных платформ, поскольку они могут быть источниками вредоносного ПО.

Включите функции безопасности. Включите функции безопасности, такие как двухфакторная аутентификация, для дополнительного уровня защиты.

Помните: хотя инструменты искусственного интеллекта могут быть невероятно полезны, они не застрахованы от киберугроз. Очень важно проявлять инициативу в отношении вашей цифровой безопасности, чтобы защитить вашу личную информацию и устройства.

Ключевые выводы Курта

Хотя пока нет необходимости отказываться от этих инструментов искусственного интеллекта, эти исследователи взяли на себя задачу понять, какие типы угроз мы можем наблюдать с их помощью в самое ближайшее будущее. Обладая этой информацией, мы можем подготовиться к потенциальным угрозам вредоносного ПО в будущем и тем самым смягчить их последствия.

Учитывая потенциальные уязвимости инструментов искусственного интеллекта, какие меры, по вашему мнению, следует предпринять пользователям и разработчикам? Дайте нам знать, написав нам по адресу

. Чтобы получить больше моих технических советов и предупреждений о безопасности, подпишитесь на мой бесплатный информационный бюллетень CyberGuy Report, перейдя по адресу

. Задайте Курту вопрос или сообщите нам, какие истории вы хотели бы, чтобы мы осветили. .

Ответы на наиболее часто задаваемые вопросы CyberGuy:

Авторские права CyberGuy.com, 2024 г. Все права защищены.

Курт «CyberGuy» Кнутссон — отмеченный наградами технический журналист, глубоко любящий технологии, оборудование и гаджеты, которые делают жизнь лучше благодаря его материалам для Fox News и FOX Business, начиная с утренних программ «FOX и друзья». Есть технический вопрос? Получите бесплатный информационный бюллетень Курта CyberGuy, поделитесь своим мнением, идеей истории или комментарием на CyberGuy.com.