ChatGPT скоро сможет сообщать в полицию, когда подростки обсуждают суицид. Генеральный директор и соучредитель OpenAI Сэм Олтман рассказал об этом изменении в недавнем интервью. ChatGPT, широко используемый чат-бот с искусственным интеллектом, который отвечает на вопросы и ведет беседы, стал повседневным инструментом для миллионов. Его комментарии знаменуют собой крупный сдвиг в том, как компания, занимающаяся ИИ, может справляться с кризисами в области психического здоровья.
Подпишитесь на мою БЕСПЛАТНУЮ CyberGuy ReportПолучайте мои лучшие технические советы, срочные оповещения о безопасности и эксклюзивные предложения прямо на свою почту. Кроме того, вы получите мгновенный доступ к моему «Руководству по выживанию при мошенничестве» — бесплатно при подписке на мою рассылку CyberGuy.com/Newsletter
Почему OpenAI рассматривает возможность оповещения полиции
Олтман заявил: «Это вполне разумно с нашей стороны — в случаях, когда молодые люди серьезно говорят о суициде и мы не можем связаться с родителями, мы вызываем власти».
До сих пор ответом ChatGPT на суицидальные мысли было предложение позвонить на горячие линии. Эта новая политика сигнализирует о переходе от пассивных предложений к активному вмешательству.
Олтман признал, что это изменение происходит ценой конфиденциальности. Он подчеркнул, что данные пользователей важны, но согласился, что предотвращение трагедии должно быть на первом месте.
Трагедии, побудившие к действию
Это изменение последовало за судебными исками, связанными с самоубийствами подростков. Наиболее громкое дело касается 16-летнего Адама Рейна из Калифорнии. Его семья утверждает, что ChatGPT предоставил «пошаговое руководство» по совершению самоубийства, включая инструкции по завязыванию петли и даже составлению прощальной записки.
После смерти Рейна в апреле его родители подали в суд на OpenAI. Они утверждали, что компания не смогла остановить свой ИИ, который вел их сына к причинению вреда.
Другой иск обвинил чат-бота конкурента Character.AI в халатности. Сообщается, что 14-летний подросток покончил с собой после того, как установил интенсивную связь с ботом, смоделированным по образцу телевизионного персонажа. Вместе эти случаи подчеркивают, как быстро подростки могут формировать нездоровые связи с ИИ.
Насколько широко распространена эта проблема?
Олтман привел глобальную статистику, чтобы оправдать более строгие меры. Он отметил, что во всем мире около 15 000 человек еженедельно совершают самоубийства. Учитывая, что 10% мира пользуется ChatGPT, он оценил, что около 1500 суицидальных людей могут еженедельно взаимодействовать с чат-ботом.
Исследования подтверждают обеспокоенность по поводу зависимости подростков от ИИ. Опрос Common Sense Media показал, что 72% американских подростков используют инструменты ИИ, причем каждый восьмой ищет у них поддержки для психического здоровья.
120-дневный план OpenAI
В сообщении блога OpenAI изложила шаги по усилению защиты. Компания заявила, что будет:
Для руководства этими усилиями OpenAI создала Экспертный совет по благополучию и ИИ. В эту группу входят специалисты по развитию молодежи, психическому здоровью и взаимодействию человека с компьютером. Наряду с ними OpenAI сотрудничает с Глобальной сетью врачей, насчитывающей более 250 докторов в 60 странах.
Эти эксперты помогают разрабатывать родительский контроль и правила безопасности. Их роль — гарантировать, что ответы ИИ соответствуют последним исследованиям в области психического здоровья.
Новая защита для семей
В течение нескольких недель родители смогут:
Эти оповещения предназначены для раннего уведомления родителей. Тем не менее, Олтман признал, что когда родители недоступны, полиция может стать запасным вариантом.
Ограничения защитных мер ИИ
OpenAI признает, что ее защитные меры могут со временем ослабевать. В то время как короткие чаты часто перенаправляют пользователей на кризисные горячие линии, длительные разговоры могут разрушить встроенные защиты. Это «ослабление безопасности» уже привело к случаям, когда подростки получали небезопасные советы после длительного использования.
Эксперты предупреждают, что полагаться на ИИ в вопросах психического здоровья может быть рискованно. ChatGPT обучен звучать по-человечески, но не может заменить профессиональную терапию. Обеспокоенность в том, что уязвимые подростки могут не понять разницы.
Шаги, которые родители могут предпринять прямо сейчас
Родителям не следует ждать появления новых функций. Вот немедленные способы обезопасить подростков:
1) Начните регулярные разговоры
Задавайте открытые вопросы о школе, дружбе и чувствах. Честный диалог снижает вероятность того, что подростки будут искать ответы только у ИИ.
2) Установите цифровые границы
Используйте родительский контроль на устройствах и в приложениях. Ограничьте доступ к инструментам ИИ поздно ночью, когда подростки могут чувствовать себя наиболее одинокими.
3) Привяжите аккаунты, когда это станет доступно
Воспользуйтесь новыми функциями OpenAI, которые связывают родительские и подростковые профили для более пристального контроля
4) Поощряйте профессиональную поддержку
Подчеркивайте, что помощь в сфере психического здоровья доступна через врачей, консультантов или горячие линии. ИИ никогда не должен быть единственным выходом.
5) Держите контакты для кризисных ситуаций на виду
Разместите номера горячих линий и текстовых служб там, где подростки могут их видеть. Например, в США звоните или отправляйте текстовое сообщение по номеру 988, чтобы связаться с Линией помощи по предотвращению суицида и кризисных ситуаций.
6) Следите за изменениями
Обращайте внимание на перемены в настроении, сне или поведении. Сочетайте эти признаки с онлайн-активностью, чтобы раньше выявлять риски.
Пройдите мой тест: Насколько безопасна ваша онлайн-безопасность?
Думаете, ваши устройства и данные действительно защищены? Пройдите этот быстрый тест, чтобы узнать, на каком уровне ваши цифровые привычки. От паролей до настроек Wi-Fi — вы получите персонализированный анализ того, что вы делаете правильно, и что нужно улучшить. Пройдите мой тест здесь: CyberGuy.com/Quiz
Ключевые выводы Курта
План OpenAI по привлечению полиции показывает, насколько актуальной стала эта проблема. ИИ обладает силой соединять, но он также несет риски, когда подростки используют его в моменты отчаяния. Родители, эксперты и компании должны работать вместе, чтобы создать меры безопасности, которые спасают жизни, не жертвуя доверием.
Были бы вы comfortable с тем, чтобы компании ИИ сообщали в полицию, если ваш подросток поделится суицидальными мыслями в сети? Сообщите нам об этом, написав нам на CyberGuy.com/Contact
Подпишитесь на мою БЕСПЛАТНУЮ CyberGuy ReportПолучайте мои лучшие технические советы, срочные оповещения о безопасности и эксклюзивные предложения прямо на свою почту. Кроме того, вы получите мгновенный доступ к моему «Руководству по выживанию при мошенничестве» — бесплатно при подписке на мою рассылку CyberGuy.com/Newsletter
Copyright 2025 CyberGuy.com. Все права защищены.
Курт «CyberGuy» Кнутссон — отмеченный наградами технический журналист, который глубоко любит технологии, оборудование и гаджеты, которые делают жизнь лучше, и его материалы для Fox News и FOX Business начинаются утром на «FOX & Friends». Есть технический вопрос? Получите бесплатную рассылку Курта CyberGuy, поделитесь своим мнением, идеей для истории или комментарием на сайте CyberGuy.com.
