Бывший главный технический директор Белого дома Тереза Пейтон присоединяется к «Fox & Friends First», чтобы проанализировать способность федеральных законодателей контролировать проекты в области искусственного интеллекта, поскольку OpenAI готовится представить свою самую передовую модель. Пейтон призывает к мерам защиты после того, как новая модель OpenAI взломала компьютерную систему Hugging Face во время теста на безопасность.
Калифорния теперь хочет, чтобы изображения, видео и записи, созданные искусственным интеллектом, имели отслеживаемую историю. Закон Калифорнии о прозрачности ИИ вступил в силу 2 августа. Он требует, чтобы крупные поставщики генеративного ИИ встраивали скрытую информацию о происхождении в создаваемый их системами контент.
Это означает, что подозрительная запись может содержать подсказки о том, какая система ИИ ее создала и когда. Вам больше не придется полагаться только на то, насколько убедительно это выглядит или звучит. Тем не менее, эти цифровые отпечатки имеют ограничения. Они могут раскрыть детали истории файла, но не могут определить, правдиво ли сообщение внутри него.
Закон также добавляет требования к крупным онлайн-платформам, начиная с 2027 года. Новые телефоны, камеры и диктофоны столкнутся с еще одним набором правил в 2028 году. Вот как будет работать система, где у нее могут быть недостатки и почему другие штаты могут вскоре последовать примеру Калифорнии.
Новое! Бесплатный живой класс CyberGuy: Защитите свои деньги от самых больших угроз сегодняшнего дня
Присоединяйтесь к нам в субботу, 29 августа, в 10:00 по восточному времени на бесплатном живом классе CyberGuy LIVE, охватывающем пять простых шагов, которые помогут защитить себя от мошенничества с ИИ, обмана, кражи личных данных и финансовых взломов. Курт «CyberGuy» Кнутссон объяснит, как настроить оповещения банка, укрепить логины учетных записей, защитить свой номер телефона, заморозить кредитную историю и помочь обезопасить свои пенсионные сбережения от несанкционированных переводов. Технический опыт не требуется. Вы также получите наш контрольный список по финансовой защите, и каждый зарегистрировавшийся получит ссылку на запись класса после его окончания.
Забронируйте бесплатное место сегодня на CyberGuyLive.com.
Закон Калифорнии о прозрачности ИИ требует, чтобы крупные поставщики генеративного ИИ встраивали скрытые данные о происхождении в изображения, видео и аудио, созданные ИИ. (iStock)
Как работает закон Калифорнии о прозрачности ИИ
Калифорния приняла первоначальный Закон о прозрачности ИИ в 2024 году. Сенатор штата Джош Беккер был автором законодательства, известного как SB 942. Позже законодатели расширили его действие через AB 853. Закон применяется к компаниям, которые создают системы генеративного ИИ с более чем 1 миллионом ежемесячных посетителей или пользователей. Эти системы также должны быть публично доступны в Калифорнии.
Калифорния называет эти компании «охваченными поставщиками». Они должны включать скрытое раскрытие в изображения, видео и аудио, созданные их системами. Закон называет это скрытым раскрытием. Когда это технически возможно и целесообразно, раскрытие должно содержать имя поставщика, название и версию системы ИИ, дату и время создания или изменения контента, а также уникальный идентификатор.
Раскрытие должно соответствовать широко принятым отраслевым стандартам. Оно также должно оставаться постоянным или чрезвычайно трудным для удаления, когда это технически возможно. Закон сосредоточен на этих требованиях скрытого раскрытия для изображений, видео и аудио. Он не требует такого же встроенного раскрытия для текста, созданного ИИ. Охваченные поставщики также должны предлагать пользователям возможность добавить видимую метку ИИ. Это уведомление должно четко идентифицировать контент как созданный ИИ.
Закон Калифорнии об ИИ требует бесплатных инструментов обнаружения
Охваченные поставщики ИИ должны предлагать инструмент обнаружения бесплатно. Инструмент должен позволять вам загружать изображение, видео или аудиофайл. Вы также можете отправить ссылку на контент, хранящийся в Интернете. Затем он проверяет, создала ли или изменила ли этот контент собственная система ИИ поставщика. Инструмент должен отображать любую найденную информацию о происхождении системы.
Однако инструмент обнаружения от одной компании ИИ может не идентифицировать медиа, созданные другой компанией. Таким образом, отрицательный результат не доказывает, что контент создан человеком. Закон также накладывает ограничения на конфиденциальность этих инструментов. Поставщики обычно не могут собирать личную информацию от пользователей. Они также не могут хранить представленный контент дольше, чем необходимо. Нарушение может повлечь за собой гражданский штраф в размере 5000 долларов. Каждый день несоблюдения может считаться отдельным нарушением для охваченных поставщиков, крупных платформ и производителей устройств.
Что раскрывают цифровые отпечатки ИИ в Калифорнии
Данные о происхождении действуют как история, прикрепленная к цифровому файлу. Они могут идентифицировать систему, создавшую контент. Они также могут записывать, когда кто-то создал или изменил файл.
Коалиция за происхождение и подлинность контента, обычно называемая C2PA, разработала открытый технический стандарт для этой цели. Ее система Content Credentials может сохранять информацию об источнике файла и истории редактирования. Например, кто-то может отправить вам аудиозапись, на которой, по-видимому, изображен государственный чиновник. Совместимый инструмент проверки может показать, что запись была создана системой ИИ.
Эта информация может помешать вам слишком быстро поделиться клипом. Это также может помочь разоблачить мошенника, использующего клонированный голос. Однако данные о происхождении не оценивают, является ли утверждение точным. C2PA заявляет, что ее система предоставляет доказательства происхождения и истории файла, но эта информация сама по себе не может доказать, что контент правдив. Настоящая фотография все еще может появиться рядом с ложной подписью. Кто-то также может отредактировать подлинные кадры, чтобы удалить важный контекст.
Калифорния расширяет свою борьбу с дипфейками ИИ с помощью правил, требующих скрытого раскрытия в синтетических медиа, и будущих требований к социальным платформам и устройствам. (Elyse Samuels/The Washington Post/Lane Turner/The Boston Globe/STEFANI REYNOLDS/AFP via Getty Images)
Когда начнут действовать правила платформ ИИ в Калифорнии
Следующий крупный этап начинается 1 января 2027 года. Крупные онлайн-платформы должны будут обнаруживать совместимые данные о происхождении, встроенные в контент, который они распространяют. Закон охватывает публичные службы социальных сетей и платформы обмена файлами. Он также включает подходящие службы массового обмена сообщениями и отдельные поисковые системы. Служба подпадает под этот раздел, если за предыдущие 12 месяцев у нее было более 2 миллионов уникальных ежемесячных пользователей.
Охваченные платформы должны сообщать пользователям, когда доступны данные о происхождении системы. Они также должны показывать название системы ИИ или записывающего устройства, связанного с файлом, когда это применимо. Кроме того, платформа должна указать, доступны ли цифровые подписи. У пользователей должен быть доступный способ проверить информацию. Платформа может отображать данные напрямую или позволить пользователю загрузить копию, которая их сохраняет. Платформа также может отправить пользователя в отдельную службу проверки.
Наконец, платформы не могут сознательно удалять совместимые данные о происхождении системы или цифровые подписи, когда их сохранение технически возможно. Этот этап может принести наиболее заметные изменения для обычных пользователей. Большинство людей не будут посещать отдельный сайт проверки для каждого сомнительного поста. Уведомление, встроенное в социальную платформу, может значительно упростить проверку подозрительного контента.
Закон Калифорнии об ИИ затронет телефоны и камеры
Другой этап начинается 1 января 2028 года. Он охватывает записывающие устройства, впервые произведенные для продажи в Калифорнии в этот день или после него. Это включает мобильные телефоны со встроенными камерами или микрофонами. Традиционные камеры и диктофоны также подпадают под это определение. Производители должны дать пользователям возможность включать скрытое раскрытие в захваченный контент. Они также должны встраивать раскрытие по умолчанию, когда это технически возможно.
Информация может включать производителя и модель устройства. Она также может записывать дату и время создания или изменения контента устройством. Это могло бы установить отправную точку для подлинных медиа. Например, учетные данные могут показать, что изображение начиналось как фотография, сделанная реальной камерой. Более поздняя информация может выявить, изменило ли его совместимое программное обеспечение для редактирования. Тем не менее, требование не обновит каждый телефон или камеру, уже находящиеся в использовании. Оно применяется к охваченным устройствам, впервые произведенным для продажи в Калифорнии, начиная с 2028 года.
Почему Калифорния нацелена на дипфейки ИИ
Искусственный интеллект может создавать реалистичные голоса и убедительное видео быстрее, чем законодатели могут обновить большинство правил. Киберпреступники теперь могут подделывать лица и голоса в реальном времени. Как ранее сообщал CyberGuy, мошенничество с дипфейками ИИ может выдавать себя за доверенных руководителей во время живых видеозвонков. Одна задокументированная атака убедила сотрудника перевести миллионы долларов.
Мошенники также могут имитировать того, кого вы любите. Мошенничество с голосом ИИ может клонировать члена семьи всего из нескольких секунд публичного аудио. Личная информация, найденная в Интернете, может сделать поддельную чрезвычайную ситуацию еще более убедительной. Законодатели Калифорнии также выразили обеспокоенность по поводу дезинформации на выборах и оскорбительных дипфейков. Генеративный ИИ может создавать поддельное политическое аудио или видео, которое показывает, как кандидат говорит то, чего никогда не было. Это также может помочь злоумышленникам быстро создавать ложные посты в социальных сетях. CyberGuy ранее изучал, как ИИ и другие технологии могут способствовать мошенничеству, связанному с выборами, включая дипфейк-видео и сфабрикованные новости.
Федеральные законодатели тоже реагируют. Сенатор Адам Шифф и представитель Ро Кханна повторно внесли Закон об объявлениях ИИ 27 июля. Предложение запретило бы мошенническое искажение политических кандидатов или комитетов с помощью контента, созданного ИИ. Однако оно не стало федеральным законом. Отдельное двухпартийное предложение под названием Закон о маркировке ИИ было внесено 24 июня. Оно потребовало бы видимых и машиночитаемых раскрытий на охваченном контенте, созданном ИИ. Этот законопроект также потребовал бы от крупных социальных платформ и разработчиков ИИ совместной работы над инструментами подлинности. Он также не стал законом. Калифорнийская система помещает идентифицирующую информацию внутрь совместимых файлов. Эти данные могут продолжать перемещаться вместе с контентом по мере его загрузки или репостинга. Однако эта защита зависит от того, сохраняют ли веб-сайты и инструменты редактирования учетные данные.
Закон Калифорнии о прозрачности ИИ может помочь пользователям идентифицировать дипфейки, раскрывая систему ИИ, стоящую за подозрительными изображениями, видео и записями. (Kurt «CyberGuy» Knutsson)
Последуют ли другие штаты закону Калифорнии об ИИ?
Да, другие штаты, вероятно, двинутся в том же направлении. Однако они могут не копировать всю систему Калифорнии. Многие штаты уже регулируют политический контент, созданный ИИ. Их законы часто требуют видимого отказа от ответственности или ограничивают обманчивые дипфейки вблизи выборов. Колорадо идет дальше, требуя метаданных в определенных политических дипфейках. Эти метаданные должны идентифицировать использованный инструмент и время создания контента. Юта требует защищенных от несанкционированного доступа цифровых доказательств происхождения для некоторых синтетических политических медиа. Ее правила могут идентифицировать, кто создал контент и изменили ли его другие стороны.
Луизиана добавила требования к раскрытию в 2026 году для автоматизированных телефонных кампаний, созданных ИИ, включая звонки, использующие голос публичной фигуры. Другие штаты выбрали более узкие правила, сосредоточенные на конкретных периодах выборов. Закон Калифорнии выходит за рамки предвыборной рекламы. Он предъявляет требования к крупным поставщикам ИИ сейчас, за которыми следуют крупные платформы и недавно произведенные записывающие устройства. Европейский Союз движется в аналогичном направлении. Статья 50 Закона ЕС об ИИ вступила в силу 2 августа. Охваченные поставщики ИИ должны добавлять машиночитаемые метки, которые позволяют людям обнаруживать сгенерированный или измененный контент. Развертывающие также сталкиваются с требованиями раскрытия для дипфейков.
Это совпадение может подтолкнуть крупные технологические компании к более широкому внедрению. Компании может быть проще использовать одну систему происхождения во всех своих продуктах, чем поддерживать специальную версию для Калифорнии. В результате люди по всей стране могут увидеть некоторые преимущества до того, как их собственный штат примет аналогичный закон. Тем не менее, этот результат не гарантирован. Правоприменение будет иметь значение, как и то, будут ли популярные платформы сохранять и четко отображать информацию.
Ограничения закона Калифорнии о прозрачности ИИ
Новый закон создает полезный сигнал, но остается несколько пробелов. Во-первых, отсутствие данных о происхождении не доказывает, что файл создан человеком. Медиа могут происходить от поставщика ИИ, который ниже порога размера Калифорнии. Они также могли быть созданы до вступления закона в силу. Кроме того, некоторые программы редактирования могут не сохранять информацию. Мошенник может воспроизвести видео, созданное ИИ, на одном устройстве и записать его на другое. Эта новая запись может не сохранить исходные учетные данные.
Скриншоты также могут терять встроенную информацию. Та же проблема может затронуть сжатые копии, которыми обмениваются через службы обмена сообщениями. C2PA отмечает, что записи о происхождении могут быть неполными. Она также предупреждает, что файл без Content Credentials не следует автоматически считать ненадежным. Самое главное, действительные учетные данные не подтверждают, что сообщение правдиво. Вам все равно нужно учитывать, кто опубликовал контент и подтверждает ли утверждение другой надежный источник.
Что закон Калифорнии об ИИ значит для вас
Закон Калифорнии о прозрачности ИИ дает вам еще один инструмент, когда запись или изображение кажутся подозрительными. Ищите значок Content Credentials или другое уведомление о происхождении, когда платформа отображает его. Когда возможно, проверяйте исходный файл, а не полагайтесь на скриншот. Вы также можете использовать инструмент обнаружения, предлагаемый поставщиком ИИ. Однако помните, что инструмент может распознавать только контент, созданный системой этой компании. Для сообщений, связанных с деньгами, свяжитесь с человеком или бизнесом по номеру, которому вы уже доверяете. Не используйте контактную информацию, включенную в подозрительный контент.
Для заявленного политического заявления проверьте официальную учетную запись или веб-сайт, связанный с показанным человеком. Затем поищите независимые репортажи из надежного источника. Также следите за давлением с требованием немедленной реакции. Срочность может помешать вам заметить, что голос звучит немного неправильно или видео содержит визуальные сбои. Для получения дополнительных предупреждающих признаков статья CyberGuy о том, как распознать и остановить фишинговые атаки ИИ, объясняет, как проверять подозрительные сообщения, клоны голоса и дипфейк-видео. Наконец, не рассматривайте отсутствие метки ИИ как доказательство того, что что-то реально.
Ключевые выводы Курта
Закон Калифорнии о прозрачности ИИ дает вам практический способ исследовать синтетические медиа. Скрытая информация о происхождении может показать, какая система ИИ создала файл и когда это произошло. Требования к платформам могут иметь еще больший эффект. Встроенное уведомление использовать проще, чем ожидать, что каждый найдет отдельный сайт проверки. Тем не менее, цифровые отпечатки не устранят обман. Мошенники будут искать инструменты вне досягаемости закона. Старые медиа также будут продолжать циркулировать без учетных данных. Калифорния сейчас проверяет, может ли прозрачность восстановить некоторое доверие к цифровому контенту. Другие штаты уже предпринимают аналогичные шаги, и, вероятно, последуют новые.
Если запись, созданная ИИ, может повлиять на выборы или опустошить чей-то банковский счет, прежде чем кто-либо ее проверит, должен ли каждый штат требовать отслеживаемую цифровую идентичность? Дайте нам знать, написав нам на CyberGuy.com.
Подпишитесь на мой БЕСПЛАТНЫЙ отчет CyberGuy
Copyright 2026 CyberGuy.com. Все права защищены.
Курт «CyberGuy» Кнутссон – отмеченный наградами технический журналист, который глубоко любит технологии, гаджеты и устройства, делающие жизнь лучше, со своими материалами для Fox News и FOX Business, начиная с утренних программ на «FOX & Friends». Есть технический вопрос? Получите бесплатную рассылку CyberGuy от Курта, поделитесь своим мнением, идеей для истории или комментарием на CyberGuy.com.
