Искусственный интеллект (ИИ) — это мощная технология, которая может принести много пользы обществу, но также создает множество проблем и рисков. Чтобы гарантировать, что Соединенные Штаты лидируют в использовании возможностей и управлении рисками, связанными с ИИ, президент Байден 30 октября 2023 года издал знаковый указ.
Как в этом указе используется закон 75-летней давности. для регулирования искусственного интеллекта
Администрация Байдена использует Закон об оборонном производстве, закон 75-летней давности, который дает Белому дому широкие полномочия по регулированию отраслей, связанных с национальной безопасностью, чтобы заставить компании сообщать об этом федеральному правительству. о потенциальных рисках национальной безопасности, связанных с их работой в области ИИ.
Это первый указ федерального правительства, который напрямую регулирует ИИ, и он соответствует добровольным обязательствам 15 крупных компаний, занимающихся ИИ, таких как Google, Microsoft и OpenAI.
Указ направлен на достижение четырех основных целей. Он устанавливает новые стандарты безопасности и защиты ИИ; защищает частную жизнь американцев, гражданские права и права потребителей; поддерживает работников и инновации; и продвигает американское лидерство во всем мире. Несмотря на то, что эти вопросы решаются, многие критики говорят, что они размыты и, вероятно, недостаточны для установки столь необходимых поручней безопасности для этой быстро развивающейся технологии, способной превзойти многие человеческие умы.
1. Новые стандарты безопасности и защиты ИИ
Одним из ключевых компонентов указа является создание новых стандартов, инструментов и тестов, которые помогут гарантировать, что Системы искусственного интеллекта безопасны, надежны и заслуживают доверия.
Обмен результатами испытаний на безопасность мощных систем искусственного интеллекта
Указ требует от разработчиков самых мощных систем искусственного интеллекта, таких как базовые модели, которые представляют серьезную угрозу национальной безопасности или общественному здоровью и безопасности. , чтобы поделиться результатами испытаний на безопасность и другой важной информацией с правительством США, прежде чем обнародовать их. Это позволит правительству оценить потенциальные риски и преимущества этих систем и предотвратить любое вредное или злонамеренное использование.
Установление строгих стандартов для тестирования красной командой
Исполнительный указ также предписывает Национальному институту стандартов и технологий (NIST) установить строгие стандарты для обширного тестирования красной командой, чтобы обеспечить безопасность перед публичный релиз. Тестирование красной командой — это метод оценки безопасности и надежности системы путем моделирования атак злоумышленников.
Применение стандартов безопасности к критически важным секторам инфраструктуры
Министерство внутренней безопасности (DHS) будет применять эти стандарты к критически важным секторам инфраструктуры и создаст Совет по безопасности ИИ.
Министерства энергетики и внутренней безопасности также будут заниматься угрозами систем искусственного интеллекта критически важной инфраструктуре, а также химическими, биологическими, радиологическими, ядерными рисками и рисками кибербезопасности.
Разработка новых стандартов проверки биологического синтеза
Кроме того, указ направлен на защиту от рисков использования ИИ для создания опасных биологических материалов путем разработки новых строгих стандартов проверки биологического синтеза.
Агентства, финансирующие проекты в области медико-биологических наук, установят эти стандарты в качестве условия федерального финансирования, создав мощные стимулы для обеспечения надлежащего скрининга и управления рисками, которые потенциально усугубляются ИИ.
Эти действия являются наиболее значительными шагами, когда-либо предпринятыми правительством для продвижения области безопасности ИИ. Они помогут гарантировать, что системы искусственного интеллекта соответствуют человеческим ценностям и не причинят вреда или ущерба людям или окружающей среде.
2. Защита неприкосновенности частной жизни, гражданских прав и прав потребителей американцев
Еще одним важным аспектом указа является защита неприкосновенности частной жизни, гражданских прав и прав потребителей американцев в эпоху ИИ.
Оценка методов конфиденциальности, используемых в ИИ
В указе изложены руководящие принципы, которые агентства могут использовать для оценки методов конфиденциальности, используемых в ИИ, таких как дифференциальная конфиденциальность или федеративное обучение. Эти методы предназначены для защиты конфиденциальных или личных данных от несанкционированного доступа или раскрытия, сохраняя при этом возможность полезного анализа или обучения.
Продвижение справедливости и гражданских прав в приложениях ИИ
Исполнительный указ также способствует обеспечению справедливости и гражданских прав, предоставляя арендодателям и федеральным подрядчикам рекомендации, которые помогут избежать применения алгоритмов ИИ, способствующих дискриминации, например, в сфере жилья. или решения о приеме на работу. Он также создает передовой опыт в отношении соответствующей роли ИИ в системе правосудия, например, когда он используется при вынесении приговоров, оценке рисков или прогнозировании преступности. Эти действия помогут предотвратить предвзятость и несправедливость в приложениях ИИ, которые влияют на жизнь и возможности людей.
Защита потребителей от вредных медицинских практик, связанных с ИИ
Кроме того, указ защищает потребителей, предписывая Министерству здравоохранения и социальных служб (HHS) создать программу для оценки потенциально вредного ИИ. - связанные со здоровьем практики, такие как неправильный диагноз или чрезмерное лечение. Он также создает ресурсы о том, как преподаватели могут ответственно использовать инструменты искусственного интеллекта, такие как персонализированное обучение или адаптивное тестирование. Эти меры помогут гарантировать, что системы искусственного интеллекта будут использоваться таким образом, чтобы приносить пользу здоровью, образованию и благополучию людей.
3. Поддержка работников и инноваций
Указ также поддерживает работников и инновации в секторе искусственного интеллекта, чтобы способствовать созданию динамичной и разнообразной экосистемы искусственного интеллекта, которая способствует научным открытиям. и экономическое процветание.
Подготовка отчета о последствиях ИИ для рынка труда
В указе публикуется отчет о потенциальных последствиях ИИ для рынка труда и изучаются способы, которыми федеральное правительство могло бы поддержать затронутых работников из-за переворота на рынке труда. Это поможет подготовить работников к меняющемуся характеру труда и предоставит им возможности для переквалификации или повышения квалификации.
Увеличение инвестиций в исследования и разработки в области ИИ
Указ также способствует инновациям и конкуренции, предписывая агентствам увеличивать свои инвестиции в исследования и разработки в области ИИ (RandD), особенно в областях, где есть высокий потенциал социального воздействия или экономического роста. Он также призывает агентства сотрудничать с промышленностью, научными кругами, гражданским обществом и международными партнерами в продвижении ответственных инноваций в области искусственного интеллекта.
4. Продвижение американского лидерства во всем мире
Наконец, указ способствует развитию американского лидерства во всем мире, предписывая агентствам взаимодействовать с союзниками и партнерами в разработке общих норм и принципов. за ответственное использование ИИ.
Он также предписывает агентствам продвигать права человека и демократические ценности в своей деятельности, связанной с ИИ, и противодействовать любым попыткам авторитарных режимов злоупотреблять ИИ для репрессий или наблюдения.
Эти действия помогут гарантировать, что Соединенные Штаты останутся мировым лидером в формировании будущего ИИ, отражающем их ценности и интересы.
Правила, которые не включены в указ
В указе опущены некоторые правила, которые были частью публичных дебатов в этом году. Например, не существует регулирования лицензирования самых передовых моделей (предложение, одобренное генеральным директором OpenAI Сэмом Альтманом), и нет ограничений на наиболее рискованное использование технологии.
Кроме того, указ не обязывает раскрывать подробную информацию об обучающих данных и размере модели, что, по мнению многих экспертов и критиков, важно для понимания технологии и прогнозирования ее потенциального вреда.
Кроме того, не существует никаких указаний о том, как закон об интеллектуальной собственности будет применяться к произведениям, созданным с помощью ИИ или с его помощью — теперь это остается на усмотрение судов.
Мир без указа
Указ Байдена об искусственном интеллекте — это шаг в правильном направлении, даже если он может оказаться недостаточным или постоянным. Некоторые утверждают, что указ не имеет юридической силы и может быть изменен или отменен будущими президентами.
Они также предполагают, что необходимы более конкретные и осуществимые правила для решения сложных и развивающихся проблем и возможностей ИИ. Без исполнительного указа деятельность ИИ по-прежнему могла бы регулироваться существующими законами и добровольными стандартами, но они могут оказаться недостаточными и последовательными, чтобы гарантировать, что ИИ является ответственным, этичным и полезным для всех.
Ключевые выводы Курта
Указ Байдена об ИИ — это важное действие правительства, которое, как мы надеемся, окажет положительное влияние на будущее ИИ. Он пытается гарантировать, что системы искусственного интеллекта безопасны, надежны и полезны для всех американцев и всего мира, но игнорирует основные советы лидеров искусственного интеллекта, таких как генеральный директор OpenAI Сэм Альтман. Это оставляет ряд серьезных нерешенных вопросов, требующих ответа.
Как вы относитесь к указу Байдена? Считаете ли вы, что это поможет США стать лидером в области инноваций и безопасности в области искусственного интеллекта? Дайте нам знать, написав нам по адресу
. Чтобы получить больше моих технических советов и предупреждений о безопасности, подпишитесь на мой бесплатный информационный бюллетень CyberGuy Report, перейдя по адресу
Задайте Курту вопрос или сообщите нам, какие истории вы хотели бы, чтобы мы осветили.
Ответы на наиболее часто задаваемые вопросы CyberGuy:
● Как лучше всего защитить ваши устройства Mac, Windows, iPhone и Android от взлома?
● Как лучше всего обеспечить конфиденциальность, безопасность и анонимность при работе в Интернете?
● Как избавиться от звонков роботов с помощью приложений и служб удаления данных?
Авторские права CyberGuy.com, 2023 г. Все права защищены.
Курт «CyberGuy» Кнутссон — отмеченный наградами технический журналист, глубоко любящий технологии, оборудование и гаджеты, которые делают жизнь лучше благодаря его материалам для Fox News и FOX Business, начиная с утренних программ «FOX и друзья». Есть технический вопрос? Получите информационный бюллетень Курта CyberGuy, поделитесь своим мнением, идеей истории или комментарием на CyberGuy.com.
