Исполнитель OpenAI говорит, что Трамп сосредоточен на глобальном доминировании Америки в области искусственного интеллекта
Генеральный директор OpenAI Сэм Альтман предупредил исполнительных директоров Уолл-стрит о том, что злоумышленники могут злоупотребить аутентификацией голосовой идентификации для мошенничества над потребителями, разрешая крупные денежные переводы, создавая, так сказать, неотвратимый кризис мошенничества.
"Я очень нервничаю из-за того, что у нас надвигается серьезный кризис мошенничества," - сказал Альтман на банковской регуляторной конференции, организованной Федеральной резервной системой, во вторник.
Во время панели, которую вела Мишель Боуман, заместитель председателя по надзору Федеральной резервной системы, Альтман отметил, что его одной из самых больших опасностей является то, что некоторые финансовые институты принимают голосовую идентификацию как аутентификацию для осуществления крупных денежных переводов.
Он подчеркнул опасения относительно фальшивой аутентификации, говоря: "какой-то злоумышленник выпустит это - это не очень сложно сделать. Это случится очень скоро."
Эта проблема не нова - эксперты индустрии уже много лет поднимают на нее тревожные сигналы.
В июне 2024 года Ассоциация сертифицированных экспертов по выявлению мошенничества (ACFE), самая крупная в мире анти-мошенническая организация, обсуждала, как искусственный интеллект может быть использован для точного воспроизведения голоса человека.
"Эта технология использует сложные алгоритмы и нейронные сети для анализа и имитации речевых шаблонов, тонов и интонаций целевого лица. В то время как deepfakes начались с визуального контента, такого как фальшивые видео знаменитостей или политиков, прорыв в области аудио deepfakes теперь является насущной проблемой," - пишет ACFE, отмечая, что неправильное использование голосов, созданных с помощью ИИ, может привести к серьезным последствиям, включая несанкционированные финансовые операции.
На конференции RSA 2025 в Сан-Франциско в начале этого года собрались десятки тысяч специалистов по кибербезопасности и технологиям, чтобы обсудить, как ИИ быстро меняет ландшафт кибербезопасности.
Во время конференции обсуждалось, что технология не только ускоряет скорость кибератак, с хакерами часто взламывающими системы менее чем за час, но и предоставляет преступникам новые способы создания высокоубедительных и персонализированных атак на "невиданном масштабе", согласно консалтинговой фирме McKinsey.
"Способность хакеров использовать инструменты ИИ - от создания убедительных фишинговых писем, фальшивых веб-сайтов и даже deepfake видео до внедрения вредоносных подсказок или кода - позволяет киберпреступникам создавать персонализированные, реалистичные сообщения и методы, обходя традиционные механизмы обнаружения," - говорит McKinsey в своем блоге от мая 2025 года "ИИ - величайшая угроза - и защита - в кибербезопасности сегодня."
Для обнаружения, предотвращения и прекращения имитации, связанной с ИИ, Федеральная торговая комиссия (FTC) заявила, что приняла несколько профилактических мер, таких как окончательное утверждение правила в 2024 году для борьбы с имитацией правительств и бизнесов. Она также запустила челлендж по клонированию голоса с целью разработки идей для защиты потребителей путем обнаружения и прекращения злоупотребления программным обеспечением клонирования голоса несанкционированными пользователями, согласно FTC.
