Главные новости Fox News Flash уже здесь. Узнайте, что набирает популярность на FoxNews.com.
Прокрутите ленту соцсетей пять минут. Вы, скорее всего, увидите что-то, что выглядит правдоподобно, но вызывает лёгкое сомнение.
Возможно, это вирусное фото протеста, которое оказывается отредактированным. Или гладкое видео, продвигающее политическую повестку. А может, аудиозапись, созданная искусственным интеллектом, которая распространяется, прежде чем кто-то успевает её проверить.
Обман с помощью ИИ теперь пронизывает повседневную жизнь. И Microsoft заявляет, что у неё есть технический план, помогающий проверять происхождение онлайн-контента и его изменение.
Подпишитесь на мой БЕСПЛАТНЫй CyberGuy ReportПолучайте мои лучшие технические советы, срочные оповещения о безопасности и эксклюзивные предложения прямо на почту. Кроме того, вы мгновенно получите доступ к моему «Руководству по выживанию среди мошенников» — бесплатно при подписке на рассылку CYBERGUY.COM.
Предложение Microsoft предполагает добавление цифровых отпечатков и метаданных, чтобы помочь отследить происхождение онлайн-контента. (YorVen/Getty Images)
Почему контент, созданный ИИ, сегодня кажется более убедительным
Инструменты ИИ теперь могут генерировать гиперреалистичные изображения, клонировать голоса и создавать интерактивные дипфейки, реагирующие в реальном времени. То, что раньше требовало студии или спецслужб, теперь требует лишь окна браузера. Этот сдвиг меняет ставки.
Теперь дело не в том, чтобы выявлять очевидные подделки. Теперь нужно ориентироваться в цифровом мире, где манипулятивный контент вплетается в вашу ежедневную ленту. Даже когда зрители знают, что что-то создано ИИ, они всё равно часто взаимодействуют с этим. Одних лишь пометок недостаточно, чтобы автоматически остановить веру или распространение. Поэтому Microsoft предлагает нечто более структурированное.
Как работает система проверки контента ИИ от Microsoft
Чтобы понять подход Microsoft, представьте процесс аутентификации известной картины. Владелец тщательно документировал бы её историю и фиксировал каждую смену владельца. Эксперты могли бы добавить водяной знак, который видят машины, но не видят зрители. Они также могли бы создать математическую подпись на основе мазков кисти.
Теперь Microsoft хочет применить ту же дисциплину к цифровому контенту. Исследовательская команда компании оценила 60 различных комбинаций инструментов, включая отслеживание метаданных, невидимые водяные знаки и криптографические подписи. Исследователи также проверили эти системы в условиях, приближённых к реальным: удаление метаданных, незначительное изменение пикселей или преднамеренная подделка.
Вместо того чтобы решать, что правда, система фокусируется на происхождении и изменении. Она предназначена для того, чтобы показать, откуда контент начался и менялся ли он по пути.
Что проверка контента ИИ может и не может доказать
Прежде чем полагаться на эти инструменты, нужно понять их ограничения. Системы верификации могут отмечать, был ли контент изменён, но они не могут судить о его точности или интерпретировать контекст. Они также не могут определить смысл. Например, пометка может указывать, что видео содержит элементы, созданные ИИ. Но она не объяснит, является ли общий нарратив вводящим в заблуждение.
Тем не менее, эксперты считают, что широкое внедрение может снизить уровень обмана в массовом масштабе. Высококвалифицированные злоумышленники и некоторые правительства всё ещё могут найти способы обойти защиту. Однако единые стандарты проверки могут сократить значительную долю манипулятивных публикаций. Со временем этот сдвиг может заметно изменить онлайн-среду.
Почему пометки ИИ создают бизнес-дилемму для соцплатформ
Вот где возникает реальное напряжение. Платформы зависят от вовлечённости. Вовлечённость часто подпитывается возмущением или шоком. А контент, созданный ИИ, может вызывать и то, и другое. Если чёткие пометки об ИИ уменьшат количество кликов, репостов или время просмотра, компаниям придётся делать трудный выбор. Прозрачность может конфликтовать с бизнес-интересами.
Невидимые водяные знаки и криптографические подписи могут сигнализировать об изменении изображений или видео. (Chona Kasinger/Bloomberg via Getty Images)
Проверки крупных платформ уже показывают неоднородную маркировку постов, созданных ИИ. Некоторые получают пометки. Многие проскальзывают без раскрытия информации.
Сейчас в дело вступает регулирование в США. «Закон о прозрачности ИИ» в Калифорнии обяжет более чётко раскрывать информацию о материалах, созданных ИИ, и другие штаты рассматривают аналогичные правила. Законодатели хотят более сильных гарантий.
Тем не менее, важна реализация. Если компании поспешат с инструментами проверки или будут применять их непоследовательно, общественное доверие может быть подорвано ещё быстрее.
Риск неверных пометок ИИ и ложных срабатываний
Исследователи также предупреждают о социотехнических атаках. Представьте, что кто-то берёт реальное фото напряжённого политического события и изменяет лишь его небольшую часть. Слабая система обнаружения помечает всё изображение как изменённое ИИ.
Теперь подлинное изображение считается подозрительным. Злоумышленники могут использовать несовершенные системы, чтобы дискредитировать реальные доказательства. Вот почему исследование Microsoft подчёркивает важность сочетания отслеживания происхождения с водяными знаками и криптографическими подписями. Важна точность. Чрезмерное усердие может подорвать все усилия.
Как защитить себя от дезинформации, созданной ИИ
Пока отраслевые стандарты развиваются, вам всё равно нужны личные меры предосторожности.
1) Не спешите делиться
Если пост вызывает сильную эмоциональную реакцию, сделайте паузу. Эмоциональная манипуляция часто бывает преднамеренной.
2) Проверяйте первоисточник
Смотрите дальше репостов и скриншотов. Найдите первую публикацию или аккаунт.
3) Перепроверяйте важные утверждения
Ищите освещение в авторитетных источниках, прежде чем принимать драматичные нарративы.
4) Проверяйте подозрительные изображения и видео
Используйте поиск по изображению, чтобы увидеть, где фото появилось впервые. Если самая ранняя версия выглядит иначе, возможно, её изменили.
5) Относитесь скептически к шокирующим аудиозаписям
Инструменты ИИ могут клонировать голоса по коротким образцам. Если запись содержит взрывные заявления, дождитесь подтверждения из проверенных источников.
6) Не полагайтесь на одну ленту
Алгоритмы показывают вам больше того, с чем вы уже взаимодействуете. Разнообразие источников снижает риск попасть в ловушку манипулятивных нарративов.
7) Воспринимайте пометки как сигналы, а не приговоры
Пометка «создано ИИ» даёт контекст. Она не делает контент автоматически вредным или ложным.
8) Обновляйте устройства и ПО
Вредоносный контент ИИ иногда ведёт на фишинговые сайты или содержит вредоносное ПО. Обновлённые системы снижают риски.
Усильте безопасность аккаунтов
Используйте надёжные уникальные пароли и надёжный менеджер паролей для их создания и хранения. Ознакомьтесь с лучшими менеджерами паролей 2026 года по версии экспертов на Cyberguy.com. Также включайте многофакторную аутентификацию, где это возможно. Ни одна система не идеальна. Но многоуровневая осведомлённость делает вас более сложной мишенью.
Эксперты говорят, что более строгие стандарты маркировки ИИ могут снизить уровень обмана, но они не могут определить, что является правдой. (iStock)
Пройдите мой тест: Насколько безопасна ваша онлайн-защита?
Думаете, ваши устройства и данные надёжно защищены? Пройдите этот быстрый тест, чтобы оценить свои цифровые привычки. От паролей до настроек Wi-Fi — вы получите персонализированный разбор того, что вы делаете правильно, а что нужно улучшить. Пройдите мой тест здесь: Cyberguy.com.
Ключевые выводы Курта
План Microsoft по проверке контента ИИ сигнализирует, что индустрия понимает срочность. Интернет превращается из места, где мы проверяем источники, в место, где мы ставим под сомнение саму реальность. Технические стандарты могут снизить масштабы манипуляций. Но они не могут исправить человеческую психологию. Люди часто верят тому, что совпадает с их картиной мира, даже когда пометки советуют быть осторожнее. Верификация может помочь восстановить некоторое доверие в сети. Но доверие не строится одним лишь кодом.
И вот вопрос. Если бы каждое сообщение в вашей ленте имело цифровой отпечаток и пометку об ИИ, изменило бы это то, во что вы верите? Напишите нам на Cyberguy.com.
Подпишитесь на мой БЕСПЛАТНЫй CyberGuy ReportПолучайте мои лучшие технические советы, срочные оповещения о безопасности и эксклюзивные предложения прямо на почту. Кроме того, вы мгновенно получите доступ к моему «Руководству по выживанию среди мошенников» — бесплатно при подписке на рассылку CYBERGUY.COM.
Авторские права 2026 CyberGuy.com. Все права защищены.
Похожая статья
Курт «CyberGuy» Кнутссон — отмеченный наградами технический журналист, который страстно любит технологии, оборудование и гаджеты, улучшающие жизнь. Его материалы для Fox News и FOX Business выходят с утра в программе «FOX & Friends». Есть технический вопрос? Подпишитесь на бесплатную рассылку Курта CyberGuy, поделитесь мнением, идеей для истории или комментарием на CyberGuy.com.
