Как мошенники используют ваши посты в Snapchat и TikTok в своих схемах
Мошенники с искусственным интеллектом используют социальные сети для отслеживания жертв, говорит бывший детектив
Мошенники передают данные из Snapchat, TikTok, Facebook и других социальных сетей программам искусственного интеллекта в рамках схемы совершения преступлений с целью получения выкупа с использованием поддельных голосов и изображений, сообщил Fox News советник по безопасности.
«Социальные сети теперь являются разведывательным инструментом для транснациональных преступных группировок, для людей, которые занимаются торговлей людьми и тому подобным», — сказал Морган Райт, главный советник по безопасности SentinelOne. «Они подкрадываются к вам, узнают, что вы делаете, и вот как работает эта афера».
За последний месяц в Аризоне произошло два случая шантажа с использованием ИИ. В обоих случаях преступники звонили с требованием выкупа, используя сгенерированные искусственным интеллектом голоса членов семьи.
«Моя дочь говорит: «Мама, эти плохие люди завладели мной. Помоги мне, помоги мне, помоги мне», — сказала Fox News Дженнифер ДеСтефано, одна из жертв в Аризоне. «Это был голос моей дочери».
TIKTOK И FACEBOOK — ИНСТРУМЕНТЫ РАЗВЕДКИ ДЛЯ ПРЕСТУПНИКОВ, ИСПОЛЬЗУЮЩИХ МОШЕННИЧЕСТВО С ИИ: СОВЕТНИК ПО БЕЗОПАСНОСТИ
«Я ни на секунду не сомневалась, что это была моя дочь», — сказала она. «На самом деле, это было так реально для меня».
Фальшивый похититель, требующий выкупа, сказал ДеСтефано: «Если ты позвонишь кому-нибудь, если ты не будешь делать то, что тебе говорят, я накачаю ее наркотиками, сделаю все, что в моих силах, а затем брошу ее». в Мексике. И ты больше никогда не увидишь свою дочь».
По словам Райта, скорость мошенничества и правдоподобность дипфейковых голосов с помощью искусственного интеллекта дают преступнику преимущество перед его жертвами.
«Они нашли голос — будь то в TikTok, Facebook, что бы это ни было — достаточно голоса, чтобы воссоздать голос дочери», — сказал он. «Неважно, что это не ребенок, это то, во что верит родитель».
«Они изолируют вас», — сказал Fox News бывший детектив Райт. «Они не дадут родителям времени на ответ».
Мошенники также, вероятно, знали, что ДеСтефано и ее 15-летняя дочь в то время были в разлуке, сказал бывший детектив.
«Вы слышите голос, который, по вашему мнению, принадлежит вашему ребенку», — продолжил Райт. «И теперь у них есть рычаги воздействия, потому что вы не знаете, где ваш ребенок».
ДеСтефано смогла найти и подтвердить безопасность своих дочерей во время звонка с требованием выкупа, но предупредила, что этот опыт напугал ее и ее семью. Она сказала, что ее история должна привлечь внимание к тому, как ИИ используется в преступлениях.
Мошенничество с использованием ИИ становится все более распространенным явлением, поскольку инструменты становятся более доступными и удобными в использовании даже для злоумышленников с небольшими техническими навыками, сказал Райт.
Есть линия, где некоторые инструменты искусственного интеллекта посягают «на личную свободу и личное пространство», — сказал ДеСтефано Fox News. «Это может быть использовано для большого зла.
«Это определенно то, о чем нам нужно поговорить, и должны быть границы».
Чтобы посмотреть полные интервью с ДеСтефано и Райт, нажмите здесь. ** * Джон Майкл Рааш — ассоциированный продюсер/сценарист Fox News Digital Originals.
