Конгресс обсуждает использование AI-чатботов в здравоохранении
AI-чатботы могут стать одним из инструментов будущего для борьбы с ненавистью и теориями заговора, показывают новые исследования. Исследователи обнаружили, что короткие диалоги с чатботами, разработанными для взаимодействия с верующими в антисемитские теории заговора, привели к измеримым изменениям в том, во что люди верят.
Исследование было проведено независимыми исследователями при поддержке Антидиффамационной лиги (ADL) и включало 1224 взрослых жителя США, «которые поддержали по крайней мере одну из шести антисемитских теорий заговора».
В исследовании участники взаимодействовали с AI-чатботом, запрограммированным на разоблачение этих теорий. По данным ADL, короткие беседы испытуемых с большой языковой моделью (LLM) снизили их веру в антисемитские заговоры на 16%. Кроме того, это повысило благосклонность к евреям на 25% среди ранее неблагосклонных участников.
«В ADL мы постоянно ищем новые способы противостоять этой древней ненависти с помощью современных технологий – теперь очень обнадеживает то, что даже глубоко укоренившиеся предрассудки можно эффективно оспорить с помощью перспективных новых инструментов, которые могут охватить миллионы людей», – заявил в своем заявлении генеральный директор и национальный директор ADL Джонатан Гринблатт.
Антисемитские теории заговора, проверенные в исследовании, включали:
ADL отметила, что эффект не был кратковременным всплеском. Примерно 50% от первоначального снижения веры в антисемитские заговоры все еще были заметны спустя более месяца.
«Что замечательно в этих выводах, так это то, что фактологическое разоблачение работает даже для теорий заговора с глубокими историческими корнями и сильными связями с идентичностью и предрассудками», – сказал в своем заявлении Дэвид Г. Рэнд, профессор информатики, маркетинга и психологии Корнеллского университета и старший автор исследования.
«Наш бот-разоблачитель с искусственным интеллектом обычно не полагается на эмоциональные призывы, упражнения по развитию эмпатии или тактику противодействия предвзятости для исправления ложных убеждений. В основном он предоставляет точную информацию и контраргументы, основанные на доказательствах, демонстрируя, что факты все еще имеют значение при изменении мнений», – добавил Рэнд.
Мэтт Уильямс, вице-президент Центра исследований антисемитизма ADL, заявил, что это исследование показывает большие перспективы использования повседневных технологий для противодействия ненависти.
«Мы должны изучить такие стратегии, как интеграция в поисковые системы и платформы социальных сетей, рекомендации от доверенных лиц и кампании по повышению осведомленности общественности», – сказал Уильямс.
Эти выводы появляются на фоне роста антисемитизма, особенно после нападений ХАМАС 7 октября 2023 года и последовавшей войны.
В апреле ADL опубликовала исследование, показывающее рекордное количество антисемитских инцидентов уже четвертый год подряд. Организация зафиксировала 9354 антисемитских инцидента в 2024 году, что на 5% больше, чем в 2023 году, и ошеломляющее увеличение на 926% с момента начала отслеживания в 1979 году.
Согласно расчетам ADL в ее ежегодном аудите антисемитизма, в 2024 году происходило более 25 «целенаправленных антиеврейских инцидентов» в день, то есть более одного в час. В своем аудите ADL детализировала типы зарегистрированных антисемитских инцидентов: 196 нападений (на 21% больше, чем в 2023 году), 2606 случаев вандализма (на 20% больше, чем в 2023 году) и 6552 случая преследований (по сравнению с 6535 в 2023 году).
В 2024 году ADL сообщила об увеличении веры в антиеврейские тропы, причем молодые американцы с большей вероятностью поддерживали эти нарративы. Кроме того, организация обнаружила, что более 42% американцев либо имели друга или члена семьи, который не любит евреев (23,2%), либо считали социально приемлемым, чтобы друг или член семьи поддерживал ХАМАС (27,2%).
