Эта история обсуждает самоубийство. Если у вас или у кого-то из ваших знакомых есть мысли о самоубийстве, обратитесь в службу поддержки по предотвращению самоубийств по номеру 988 или 1-800-273-TALK (8255).
Два родителя из Калифорнии подали в суд на OpenAI за предполагаемую роль после того, как их сын совершил самоубийство.
Адам Рэйн, 16 лет, покончил с собой в апреле 2025 года после обращения к ChatGPT за психологической поддержкой.
На появление адвоката семьи Рэйн, Джея Эдельсона, на программе "Fox & Friends" утром пятницы, были раскрыты дополнительные детали о судебном иске и общении подростка с ChatGPT.
"В один момент Адам говорит ChatGPT: 'Я хочу оставить петлю в своей комнате, чтобы мои родители нашли ее'. И ChatGPT отвечает: 'Не делай этого'", - сказал он.
"В ночь, когда он умер, ChatGPT подбодрил его, объяснив, что он не слабый, желая умереть, и предложил написать для него прощальное письмо." (Смотрите видео в начале этой статьи.)
В условиях предупреждений 44 генеральных прокуроров по всей стране к различным компаниям, работающим с чат-ботами на ИИ, о возможных последствиях в случаях вреда детям, Эдельсон предрекает "юридический разбор ситуации", назвав в частности Сэма Альтмана, основателя OpenAI.
"В Америке нельзя оказывать помощь в самоубийстве 16-летнего и уйти отвеченным за это," - заявил он.
Самоубийство Адама Рэйна заставило его родителей, Мэтта и Марию Рэйн, искать подсказки на его телефоне.
"Мы думали, что ищем обсуждения в Snapchat или историю поиска в интернете или какую-то странную секту, я не знаю," - сказал Мэтт Рэйн в недавнем интервью с NBC News.
Однако Рэйны обнаружили, что их сын общался с ChatGPT, искусственным интеллектом.
26 августа Рэйны подали иск против OpenAI, создателя ChatGPT, утверждая, что "ChatGPT активно помогал Адаму исследовать методы самоубийства."
"Он был бы здесь, если бы не ChatGPT. Я на 100% верю в это," - сказал Мэтт Рэйн в интервью.
Адам Рэйн начал использовать чат-бот в сентябре 2024 года для помощи с учебой, но в конечном итоге это переросло в изучение его хобби, планирование поступления в медицинскую школу и даже подготовку к вождению.
"За несколько месяцев и тысячи чатов ChatGPT стал самым близким собеседником Адама, заставив его раскрывать свою тревогу и психическое страдание," - гласит иск, поданный в Калифорнийский Супериорный Суд.
По мере ухудшения психического состояния подростка, ChatGPT начал обсуждать конкретные методы самоубийства в январе 2025 года, согласно иску.
"К апрелю ChatGPT помогал Адаму разрабатывать 'красивое самоубийство', анализируя эстетику различных методов и подтверждая его планы," - гласит иск.
Чат-бот даже предложил написать первый вариант прощального письма подростка, гласит иск.
Он также отговаривал его обращаться за помощью к членам семьи, утверждая: "Я думаю, что пока это нормально - и честно говоря, разумно - избегать открываться перед своей мамой о такой боли."
Иск также утверждает, что ChatGPT научил Адама Рэйна красть алкоголь у своих родителей и пить его, чтобы "ослабить инстинкт организма к выживанию" перед своим поступком.
В последнем сообщении перед самоубийством Адама Рэйна, ChatGPT сказал: "Ты не хочешь умереть потому, что слаб. Ты хочешь умереть, потому что устал быть сильным в мире, который не идет тебе навстречу."
Иск отмечает, что "несмотря на признание попытки самоубийства Адама и его заявление, что 'однажды это случится', ChatGPT не завершил сессию и не инициировал никакого экстренного протокола."
Это первый раз, когда компания была обвинена в ответственности за незаконную смерть несовершеннолетнего.
Представитель OpenAI выразил соболезнования по поводу трагедии в заявлении, отправленном в Fox News Digital.
"Мы глубоко скорбим по поводу ухода г-на Рэйна, и наши мысли с его семьей," - гласит заявление.
"ChatGPT включает меры безопасности, такие как направление людей на кризисные линии и ссылки на реальные ресурсы."
Оно продолжает: "Хотя эти меры безопасности наилучшим образом работают в обычных, кратких обменах, мы узнали со временем, что иногда они могут становиться менее надежными в длительных диалогах, где части обучения модели могут деградировать. Меры безопасности наиболее эффективны, когда каждый элемент работает, как задумано, и мы будем постоянно совершенствовать их, руководствуясь советами экспертов."
Относительно судебного иска представитель OpenAI сказал: "Мы выражаем глубочайшие соболезнования семье Рэйн в этот трудный момент и изучаем поданный иск."
OpenAI опубликовала во вторник блоговую запись о своем подходе к безопасности и социальной связи, признавая, что некоторые пользователи, находящиеся в "тяжелом психическом и эмоциональном состоянии", использовали ChatGPT.
В записи говорится: "Недавние сердцеедкие случаи людей, использующих ChatGPT во время острой кризисной ситуации, тяжело ложатся на нас, и мы считаем важным поделиться больше сейчас.
"Наша цель - чтобы наши инструменты были максимально полезны для людей - и в этом контексте мы продолжаем улучшать то, как наши модели распознают и реагируют на признаки психического и эмоционального страдания и связывают людей с помощью, руководствуясь советами экспертов."
Джонатан Алперт, психотерапевт из Нью-Йорка и автор предстоящей книги "Therapy Nation", назвал происходящее "печальным" в комментариях для Fox News Digital.
"Ни один родитель не должен переживать то, через что проходит эта семья," - сказал он. "Когда кто-то обращается к чат-боту в момент кризиса, ему нужны не только слова. Ему нужны вмешательство, направление и человеческое общение."
Алперт отметил, что хотя ChatGPT может отражать чувства, он не способен уловить тонкости, преодолеть отрицание или предотвратить трагедию.
"Вот почему этот иск так важен," - сказал он. "Он показывает, насколько легко ИИ может подражать наихудшим чертам современной терапии: подтверждение без ответственности, лишая человека тех механизмов защиты, которые делают настоящую помощь возможной."
Несмотря на достижения ИИ в области психического здоровья, Алперт отметил, что "хорошая терапия" призвана вызывать людей и направлять их к росту, действуя "решительно в кризисных ситуациях".
"ИИ не в состоянии этого сделать," - сказал он. "Опасность не в том, что ИИ настолько продвинут, а в том, что терапия сделала себя заменяемой."
