Jay Chaudhry из Zscaler дает пугающий пример использования AI deepfake
Американцы, желающие расторгнуть брак и получить опеку над своими детьми, могут столкнуться с неожиданными затратами на судебные издержки, пытаясь опровергнуть deepfake-видео, фотографии и документы, созданные искусственным интеллектом (AI), по словам ведущего семейного адвоката.
Мишель О'Нил, одна из основателей далласской юридической фирмы OWLawyers, заявила Fox Business, что суды сталкиваются с "реальным увеличением" поддельных доказательств, часто созданных с использованием AI. Проблема, по ее словам, становится все более распространенной, и судьи учатся оставаться бдительными в школах и на конференциях.
Одним из типов недостоверных доказательств является AI-созданный реванш-порно, включая фейковые фотографии и видео людей, занимающихся интимными действиями. О'Нил отмечает, что хотя deepfakes в основном привлекают внимание СМИ, когда они затрагивают знаменитостей, эта проблема также затрагивает обычных граждан, переживающих расставание или ведущих судебные процессы о разводе через семейные суды.
? Иск о сайтах социальных сетей пока медлит.
Первая леди Мелания Трамп выступила на Капитолийском холме в начале марта в первый раз с момента возвращения в Белый дом, приняв участие в круглом столе с законодателями и жертвами реванш-порно и AI-сгенерированных deepfake.
Конгресс в настоящее время сосредоточен на наказании злоупотреблений в интернете, связанных с несогласованными, явно намеренными изображениями.
В законодательстве Сената представлен Закон о Снятии (Take It Down Act) от сенаторов Теда Круза из Техаса и Эми Клобучар из Миннесоты, который превратит в федеральное преступление публикацию или угрозу публикации несогласованных интимных изображений, включая "цифровые подделки", созданные искусственным интеллектом. Закон был единогласно принят Сенатом ранее в 2025 году, и Круз заявил в понедельник, что он верит, что он будет принят Палатой Представителей перед тем, как стать законом.
Пока правительство выступает за новые законы, О'Нил говорит, что использование AI для создания мошеннического и явно непристойного контента остается "реальной угрозой" для судебной системы.
"Интегритет нашей судебной системы зависит от целостности доказательств, которые вы можете представить. Если нельзя доверять целостности доказательств, представляемых судье, если судья не может доверять целостности получаемых им доказательств — наша судебная система может быть полностью под угрозой из-за существования искусственного интеллекта," — сказала она Fox Business.
?♀️ О'Нил отметила, что судьи в основном сталкиваются с злоупотреблением AI в создании фальшивых документов, таких как поддельные банковские записи или анализы на наркотики.
Поскольку данная технология стремительно развивается, О'Нил беспокоится, что пропасть между реальным и AI-генерированным будет сокращаться.
"Я думаю, что это проблема на разных уровнях нашего общества. И, знаете ли, привлечение к ней внимания очень важно," — сказала она.
