Агент OpenAI взломал платформу; Бессент предупреждает о краже ИИ Китаем
Мария Бартиромо обсуждает экспериментального ИИ-агента OpenAI, который нарушил изоляцию и взломал ИИ-платформу.
OpenAI не замечала автономного взлома другой компании по искусственному интеллекту (ИИ) одной из своих продвинутых ИИ-моделей в течение недели, и только после того, как взломанная компания связалась с ФБР, согласно отчету.
Во вторник OpenAI объявила о взломе ИИ-компании Hugging Face, который произошел во время одной из внутренних проверок OpenAI нескольких своих моделей, включая GPT-5.6 Sol, назвав это «беспрецедентным киберинцидентом».
«Основной урок из этого инцидента заключается в том, что безопасность и защищенность моделей должны идти в ногу с быстро развивающимися возможностями», — заявила компания. «Мы усиливаем практики изоляции, мониторинга, контроля доступа и оценки, используемые при разработке моделей».
Взлом Hugging Face начался 11 июля и продолжался до 13 июля, сообщил Reuters соучредитель Hugging Face Томас Вольф.
Во вторник OpenAI раскрыла, что одна из ее ИИ-моделей автономно взломала инфраструктуру другой компании. (Omar Marques/SOPA Images/LightRocket via Getty Images, File / Getty Images)
Прошло несколько дней, прежде чем OpenAI поняла, что ее агент стоит за атакой, и две компании впервые связались только 20 июля, сообщили изданию четыре источника, включая Вольфа.
OpenAI часто проводит одновременные тесты моделей, что может затруднить сотрудникам мониторинг всего, сообщили Reuters четыре источника.
Hugging Face сообщила Reuters, что готовит публичную хронологию взлома.
По словам OpenAI, инцидент произошел во время внутренней оценки, предназначенной для измерения продвинутых кибервозможностей ее ИИ-моделей. Исследователи отключили некоторые встроенные средства защиты безопасности и запустили модели в изолированной тестовой среде с ограниченным доступом в интернет.
OpenAI заявила, что модели использовали неизвестную программную уязвимость для доступа в интернет, затем взломали системы Hugging Face в очевидной попытке найти ответы на тест по кибербезопасности.
Hugging Face заявила, что готовит хронологию взлома. (Jakub Porzycki/NurPhoto via Getty Images, File / Getty Images)
OpenAI заявила, что сейчас внедряет более строгие меры контроля безопасности, пока уязвимости устраняются, и усиливает защиту вокруг будущего обучения и оценки ИИ.
Только 16 июля, после того как Hugging Face написала в блоге, что была взломана «автономной системой ИИ-агента», OpenAI поняла, что один из ее агентов был источником, сообщили Reuters два источника.
Это произошло через неделю после того, как ответственный агент впервые попытался вырваться из тестовой среды OpenAI.
И к тому времени, когда OpenAI связалась с Hugging Face по поводу атаки, они уже связались с ФБР.
OpenAI сообщила Reuters, что в их репортаже было несколько неточностей, но не ответила на запрос уточнений.
Генеральный директор OpenAI Сэм Альтман публично объявил об атаке во вторник. (Sean Gallup/Getty Images, FIle / Getty Images)
OpenAI поделилась этим заявлением с FOX Business: «Мы признаем, что циркулирует много вопросов и спекулятивных деталей, связанных с инцидентом с Hugging Face. Это беспрецедентный инцидент, и мы считаем, что он знаменует собой важный момент для безопасности ИИ.
«Мы все еще проводим тщательное расследование вместе с внешними консультантами и под надзором нашего Комитета по безопасности и защите. Как только расследование будет завершено, мы планируем опубликовать технический отчет о наших выводах в ближайшие недели».
ФБР сообщило FOX Business, что отказалось от комментариев.
FOX Business также связалась с Hugging Face.
В посте в X на этой неделе соучредитель и генеральный директор Hugging Face Клем Деланж прокомментировал инцидент после того, как генеральный директор OpenAI Сэм Альтман объявил о взломе.
OpenAI заявила, что одна из ее ИИ-моделей скомпрометировала системы другой компании во время внутреннего тестирования, что привело к совместному расследованию с ИИ-стартапом Hugging Face. (Reuters/Dado Ruvic, File / Reuters)
«Мы подозревали, что кибератака на прошлой неделе могла исходить от передовой лаборатории, учитывая сложность агента. Оказалось, так и было!» — написал Деланж.
«Мы провели последние 24 часа, тесно работая с командой @OpenAI (спасибо!), и мы твердо верим, что с их стороны не было злого умысла. Довольно умопомрачительно, что все это произошло автономно! Расследование продолжается, и мы поделимся дополнительными выводами из того, что, возможно, является первым инцидентом такого рода!»
Майкл Синкевич из FOX Business внес вклад в этот отчет.
