FOX Business: Главные новости за 30 октября
В данном материале поднимается тема суицида. Если вы или кто-то из ваших знакомых испытывает суицидальные мысли, пожалуйста, свяжитесь с Линией помощи по предотвращению суицида и кризисных ситуаций по номеру 988 или 1-800-273-TALK (8255).
Популярная платформа чат-ботов с искусственным интеллектом (ИИ) Character.ai, широко используемая для ролевых игр и творческого сторителлинга с виртуальными персонажами, объявила в среду, что с 24 ноября пользователи младше 18 лет больше не смогут вести неограниченные беседы со своими виртуальными собеседниками.
Это решение последовало за месяцами правовой проверки и иском 2024 года, в котором утверждается, что чат-боты компании способствовали смерти подростка в Орландо. Согласно федеральному иску о неправомерной смерти, 14-летний Сьюэлл Сетзер III все больше изолировался от реального общения и вел крайне сексуализированные разговоры с ботом перед своей смертью.
В своем объявлении Character.ai сообщила, что в течение следующего месяца время чата для пользователей младше 18 лет будет ограничено двумя часами в день, постепенно сокращаясь в ближайшие недели.
«По мере развития мира ИИ должен меняться и наш подход к защите младших пользователей», — заявила компания в объявлении. «Мы видели недавние новостные репортажи, поднимающие вопросы, и получали запросы от регуляторов о контенте, с которым могут столкнуться подростки при общении с ИИ, и о том, как неограниченный AI-чат в целом может повлиять на подростков, даже когда контроль контента работает идеально».
Компания планирует внедрить аналогичные изменения в других странах в ближайшие месяцы. Эти изменения включают новые функции подтверждения возраста, призванные обеспечить пользователям получение соответствующего их возрасту опыта, и запуск независимой некоммерческой организации, ориентированной на безопасность развлечений следующего поколения на основе ИИ.
«Мы внедрим новую функциональность для подтверждения возраста, чтобы помочь гарантировать, что пользователи получают правильный опыт для своей возрастной группы», — заявила компания. «Мы создали модель подтверждения возраста собственными силами и будем сочетать ее с ведущими сторонними инструментами, включая Persona».
Character.ai подчеркнула, что эти изменения являются частью ее постоянных усилий по балансированию творчества и безопасности сообщества.
«Мы работаем над тем, чтобы наше сообщество оставалось в безопасности, особенно наши пользователи-подростки», — добавила компания. «Нашей целью всегда было предоставить увлекательное пространство, способствующее творчеству, при сохранении безопасной среды для всего нашего сообщества».
