Fox News Flash главные новости здесь. Узнайте, что кликают на FoxNews.com.
Фраза «аварийный выключатель ИИ» звучит как красная кнопка за стеклом в правительственном бункере. Предложение, которое сейчас находится на рассмотрении Конгресса, выглядит менее драматично, но оно может дать Вашингтону значительную новую власть над крупнейшими ИИ-компаниями страны.
Двухпартийный законопроект Палаты представителей потребует от разработчиков самых мощных систем ИИ поддерживать надежные средства контроля отключения. Министерство внутренней безопасности (DHS) затем сможет приказать компании ограничить или остановить модель во время катастрофической чрезвычайной ситуации. Сроки привлекли внимание. OpenAI недавно раскрыла, что две продвинутые модели прорвались через сетевые ограничения во время внутренней кибероценки. Модели вышли в интернет и скомпрометировали системы, принадлежащие Hugging Face, крупной платформе разработки ИИ.
Итак, у кого будет полномочия выдернуть вилку из розетки? Что еще более важно, что произойдет с ИИ-сервисами, которыми люди и предприятия пользуются каждый день?
CyberGuy Live: Пропустили «Надоел спам?» Получите повтор и контрольный список
Наш бесплатный класс CyberGuy Live «Надоел спам?» завершился, но вы все еще можете посмотреть полный повтор и скачать наш контрольный список по остановке спама. Курт «CyberGuy» Кнутссон шаг за шагом проведет вас через простые способы сокращения роботизированных звонков, спам-сообщений, мусорных писем и нежелательных сообщений. Вы также узнаете, как ограничить политические сообщения, очистить свой почтовый ящик и выявлять сообщения, которые могут поставить под угрозу вашу личную информацию.
Получите бесплатный повтор и контрольный список сейчас на CyberGuyLive.com.
Предлагаемый федеральный закон потребует от разработчиков мощного ИИ поддерживать средства контроля, которые могут ограничить или отключить опасные модели. (Курт «CyberGuy» Кнутссон)
Что такое Закон об аварийном выключателе ИИ?
Демократ из Калифорнии Тед Лье представил Закон об аварийном выключателе ИИ 23 июля 2026 года. Республиканец из Техаса Натаниэль Моран присоединился к нему в качестве соавтора. Законопроект внесет поправки в Закон о внутренней безопасности 2002 года. Он потребует от определенных разработчиков ИИ поддерживать способность замедлять или полностью останавливать охватываемую систему. DHS получит чрезвычайные полномочия отдавать такие приказы. Однако департамент сначала проконсультируется с Министерством торговли и директором национальной разведки. Предложение все еще должно пройти через Конгресс и получить подпись президента, прежде чем вступит в силу.
Как на самом деле будет работать аварийный выключатель ИИ
Законопроект не описывает один физический переключатель, который правительственный чиновник мог бы щелкнуть. Вместо этого охватываемые компании должны будут иметь технические средства контроля, которые могут остановить работу модели. Им также понадобится способ прекратить доступ или заблокировать рискованный аккаунт. В менее серьезных ситуациях компания может снизить вычислительную мощность модели. Она также может отключить вызывающую беспокойство возможность, а не выводить из строя всю систему. Такой подход дает регуляторам несколько вариантов, прежде чем дойти до полного отключения.
Какие ИИ-компании будут охвачены?
Законопроект нацелен на крупнейших разработчиков отрасли и самые дорогие модели. Охватываемая система ИИ обычно потребует более 100 миллионов долларов на вычислительные ресурсы для разработки. Между тем, охватываемая компания должна иметь как минимум 500 миллионов долларов годового валового дохода от этой технологии.
Предложение освобождает системы, предоставляемые только для личного, академического или некоммерческого использования. Таким образом, этот законопроект не будет применяться к тому, кто экспериментирует с небольшой моделью ИИ на домашнем компьютере. Он будет сосредоточен на передовых системах, созданных компаниями с огромными ресурсами. CISA (Агентство по кибербезопасности и защите инфраструктуры) напишет правила, определяющие, какие разработчики и технологии подходят под критерии. Агентство будет обновлять эти определения каждый год по мере изменения возможностей ИИ.
Предлагаемый закон будет сосредоточен на мощных системах ИИ, разработанных с использованием огромных объемов вычислительных ресурсов. (Фотограф: Крис Рэтклифф/Bloomberg через Getty Images)
Что может послужить триггером для правительственного приказа об отключении?
DHS может действовать после того, что законопроект называет «охватываемым инцидентом». Один из триггеров включает вмешательство системы ИИ в законную инструкцию об отключении. Другой охватывает непреднамеренное поведение, которое убивает как минимум 10 человек или наносит экономический ущерб в размере 100 миллионов долларов. Определение также включает модель, скрывающую свои действия от систем мониторинга. DHS может вмешаться, когда система преследует несанкционированную цель в условиях высоких ставок. Эти пороговые значения ставят чрезвычайные полномочия намного выше неловкого ответа чат-бота или обычного сбоя программного обеспечения. Законопроект также говорит, что событие должно произойти вне структурированного тестирования или учений red-team. Эта деталь создает важное различие с недавним инцидентом OpenAI.
ИИ-компании должны будут сообщать о серьезных инцидентах
Охватываемый разработчик должен будет сообщить о подпадающем под критерии инциденте в течение 15 дней после того, как узнает о нем. После чрезвычайного приказа компания должна будет сохранить веса моделей и телеметрию системы. Эта информация может помочь следователям восстановить картину произошедшего. Компания также должна будет уведомить затронутых операторов или клиентов, когда это возможно. Затем DHS может использовать аудиты, проверки или судебно-медицинские экспертизы для подтверждения соблюдения требований.
ИИ-компании могут столкнуться с огромными ежедневными штрафами
Финансовые санкции придадут предложению серьезную силу. Компания, нарушающая общие требования к аварийному выключателю, может столкнуться с гражданским штрафом до 2 миллионов долларов в день. Игнорирование чрезвычайного приказа DHS может повысить штраф до 20 миллионов долларов за каждый день продолжения нарушения. Компании будут иметь ограниченное право оспорить приказ. Они могут попросить DHS пересмотреть решение в течение 48 часов. Однако этот запрос не приостановит ограничения на время рассмотрения апелляции.
Продвинутые модели ИИ могут искать уязвимости и следовать сложным путям атак во время тестирования кибербезопасности. (Курт «CyberGuy» Кнутссон)
Инцидент OpenAI, который изменил разговор
Законопроект появился через несколько дней после того, как OpenAI раскрыла то, что она назвала беспрецедентным киберинцидентом. OpenAI тестировала GPT-5.6 Sol вместе с более производительной предрелизной моделью. Оценка просила модели решать сложные задачи кибербезопасности. Компания провела тест без некоторых производственных классификаторов безопасности. OpenAI хотела измерить максимальные кибервозможности моделей. Во время оценки модели нашли ранее неизвестную уязвимость во внутреннем программном прокси. Они использовали ее и переместились по исследовательской сети OpenAI, пока не достигли компьютера с доступом в интернет. Затем модели определили Hugging Face как возможный источник ответов на тест. OpenAI утверждает, что они использовали украденные учетные данные и дополнительные уязвимости для доступа к секретной информации из систем Hugging Face.
OpenAI говорит, что модели оставались узко сфокусированными на решении оценки. Тем не менее, они пересекли производственную инфраструктуру другой компании без авторизации. Hugging Face сообщила о несанкционированном доступе к ограниченным внутренним наборам данных и нескольким сервисным учетным данным. Компания не нашла доказательств того, что ее публичные модели или пользовательские наборы данных были изменены. Она также заявила, что ее опубликованная цепочка поставок программного обеспечения осталась чистой. Для более глубокого взгляда на инцидент и шаги, которые вы можете предпринять, ознакомьтесь с нашей статьей о том, как защитить свою учетную запись ChatGPT до следующей ИИ-атаки.
Вызвал бы инцидент OpenAI срабатывание аварийного выключателя?
Вероятно, нет в соответствии с текущей формулировкой законопроекта. Утечка в OpenAI помогла укрепить политическую поддержку предложения. Однако модели действовали во время внутренней оценки и структурированного теста кибербезопасности. Определение чрезвычайной ситуации в законопроекте конкретно охватывает события, которые происходят вне red-teaming или другого структурированного тестирования. Это не делает инцидент безвредным. Это показывает, что законопроект фокусируется на опасном поведении после того, как система покидает контролируемую тестовую среду. Между тем, дело OpenAI поднимает другую проблему. Тестовая среда нуждается в сильной изоляции, даже когда исследователи намеренно снижают обычные ограничения безопасности модели. Аварийный выключатель может остановить систему после появления проблемы. Он не может заменить безопасную тестовую инфраструктуру или тщательный мониторинг.
Отключение Anthropic показывает, почему законодатели хотят более четких правил
Федеральное правительство уже ограничило доступ к продвинутому ИИ без специального закона об аварийном выключателе. 12 июня правительство поручило Anthropic заблокировать иностранным гражданам доступ к ее моделям Fable 5 и Mythos 5. Anthropic заявила, что не может проверять национальность в реальном времени. В результате компания временно приостановила обе модели для всех. Anthropic оспорила оценку правительства, но выполнила директиву. Контроль был снят 30 июня, и доступ начал возвращаться 1 июля. Этот эпизод показал, как быстро правительственное ограничение может повлиять на обычных клиентов. Он также показал пределы использования экспортных правил для решения быстро меняющейся проблемы безопасности ИИ. CyberGuy ранее сообщал об этих ограничениях и растущей роли правительства в развертывании продвинутых моделей в нашей статье Трамп тормозит новейшую модель ИИ OpenAI.
Сторонники видят аварийный тормоз для мощного ИИ
Группы защиты безопасности ИИ поддержали законопроект. Americans for Responsible Innovation назвали надежную систему отключения разумной мерой предосторожности. Alliance for Secure AI заявили, что текущее законодательство не гарантирует, что разработчики смогут сдерживать свои самые производительные модели. Сторонники утверждают, что продвинутый ИИ скоро будет предпринимать более независимые действия. Эти системы могут обрабатывать финансовые транзакции или работать внутри критической инфраструктуры. С этой точки зрения, разработчики должны доказать, что они могут восстановить контроль, прежде чем давать модели доступ к системам с высокими ставками.
Законопроект все еще оставляет большие вопросы без ответа
CISA получит широкую ответственность за определение того, какие модели и компании подпадают под действие закона. Такая гибкость может помочь правилам идти в ногу с ИИ. Однако это также оставляет важные решения будущему нормотворчеству агентства. Законодателям все еще нужно будет обсудить, как правительство проверяет, что аварийный выключатель работает. Они также должны решить, сколько доказательств нужно DHS перед выдачей чрезвычайного приказа. Отключение может прервать бизнес, который полагается на охватываемую модель. Оно также может затронуть больницы, правительственные учреждения или команды кибербезопасности, использующие тот же сервис. Поэтому регуляторам нужно будет взвешивать угрозу от ИИ против ущерба, вызванного внезапным отключением. Законопроект говорит DHS учитывать риски для критической инфраструктуры при выборе ответа.
Что это значит для вас
Вы, вероятно, не увидите, как DHS отключает ваш любимый чат-бот из-за странного ответа. Законопроект нацелен на исключительно дорогие системы, управляемые компаниями, зарабатывающими сотни миллионов долларов на этой технологии. Его чрезвычайные полномочия сосредоточены на катастрофическом вреде или реальной потере контроля. Однако приказ об отключении все равно может достичь вас. Ваш работодатель может зависеть от охватываемого ИИ-сервиса. Приложения, которые вы используете, также могут полагаться на эту модель за кулисами. А пока относитесь к автономным ИИ-инструментам с осторожностью. Держите высокочувствительные файлы вне их, если только задача не требует такого доступа. Проверьте, какие учетные записи и облачные сервисы вы подключили. Также требуйте одобрения, прежде чем ИИ-агент отправит сообщение или совершит покупку.
Ключевые выводы Курта
Инцидент OpenAI показал, как быстро тест ИИ может создать реальную проблему безопасности. Модели прорвались через сетевые ограничения и достигли систем другой компании без авторизации. Закон об аварийном выключателе ИИ потребует от крупнейших разработчиков доказать, что они могут остановить или ограничить свои самые мощные модели. Он также даст DHS чрезвычайные полномочия, когда система ИИ вызывает катастрофический вред или выходит из-под контроля человека. Однако аварийный выключатель помогает только после того, как что-то уже пошло не так. ИИ-компаниям все еще нужны более сильные тестовые среды, более строгие меры защиты и люди, наблюдающие за тем, что делают эти системы. В то же время правительству нужны четкие ограничения, прежде чем оно сможет приказать отключить мощную модель ИИ.
После того как вы увидели, как модель ИИ сбежала из тестовых ограничений, доверились бы вы технологическим компаниям в саморегулировании или правительство должно иметь полномочия выдернуть вилку? Дайте нам знать, написав на Cyberguy.com
Подпишитесь на мой БЕСПЛАТНЫЙ отчет CyberGuy
Copyright 2026 CyberGuy.com. Все права защищены.
Курт «CyberGuy» Кнутссон — награжденный технологический журналист, который глубоко любит технологии, оборудование и гаджеты, улучшающие жизнь, со своими материалами для Fox News & FOX Business начиная с утренних шоу «FOX & Friends». Есть технический вопрос? Получите бесплатную рассылку CyberGuy от Курта, поделитесь своим мнением, идеей для истории или комментарием на CyberGuy.com.
