Компаниям в сфере ИИ нужно уважать то, что они выпускают в публичное пространство: конгрессмен Джимми Патронис
В статье обсуждается тема суицида. Если вы или кто-то из ваших знакомых размышляет о суициде, пожалуйста, позвоните на Линию помощи по предотвращению суицида и кризисных ситуаций по номеру 988 или 1-800-273-TALK (8255).
Компания OpenAI, создавшая чат-бот с искусственным интеллектом ChatGPT, внедряет расширенные родительские контроля, призванные сделать свою технологию более безопасной для подростков. Ожидается, что запуск займет до 120 дней.
Компания уже анонсировала планы по обновлению своей модели, чтобы помочь пользователям в трудной ситуации, отслеживать время, проводимое в приложении, и помогать с личными проблемами. Однако в OpenAI заявили, что недавние случаи, когда пользователи, включая подростков, обращались к приложению во время острых кризисов, подтолкнули компанию к разъяснению своих новых политик.
По данным OpenAI, в течение следующего месяца родители смогут привязывать свои аккаунты к аккаунтам своих детей-подростков, контролировать, как ChatGPT отвечает их ребенку, управлять функцией памяти и историей чатов, а также получать уведомления, если их ребенок использует технологию в момент острого стресса.
«Мы видели, как люди обращаются к нему в самые трудные моменты. Именно поэтому мы продолжаем улучшать то, как наши модели распознают признаки психического и эмоционального стресса и реагируют на них, руководствуясь экспертными заключениями», — говорится в заявлении компании.
OpenAI подчеркнула роль, которую медицинские и психиатрические специалисты играют в её стремлении улучшить продукт. Хотя компания уже сформировала совет экспертов, она расширит группу, включив в неё специалистов с «глубоким опытом» в области расстройств пищевого поведения, употребления психоактивных веществ и здоровья подростков.
«Ранее в этом году мы начали собирать совет экспертов в области развития молодежи, психического здоровья и взаимодействия человека с компьютером, — сообщила OpenAI. — Их мнение поможет нам определить и измерить благополучие, расставить приоритеты и разработать будущие защитные механизмы — такие как следующие версии родительского контроля — с учетом последних исследований. Хотя совет будет консультировать нас по вопросам продуктов, исследований и политик, OpenAI несет ответственность за принимаемые нами решения».
Запуск происходит на фоне судебного иска против OpenAI в Калифорнии от родителей 16-летнего Адама Рейна, который покончил с собой в апреле 2025 года после обращения к ChatGPT за поддержкой по вопросам психического здоровья.
Когда его родители искали на его телефоне clues после трагедии, они обнаружили, что он взаимодействовал с ChatGPT. В своем иске родители Рейна утверждают, что «ChatGPT активно помогал Адаму исследовать методы суицида».
В OpenAI заявляют, что протоколы, которые будут внедрены в течение следующих 120 дней, — это лишь начало более длительного процесса, в ходе которого компания стремится сделать ИИ более безопасным и полезным.
