Стартап в области ИИ Lila Sciences привлекает $350 млн для вывода науки на атомный уровень
Компания OpenAI вскоре ослабит ограничения на контент, который может создавать ChatGPT, разрешив сервису создавать «эротику», если пользователи этого пожелают, объявил во вторник генеральный директор Сэм Олтман.
Олтман отметил, что новая функциональность будет применяться только к пользователям, которые явно об этом попросят. Он заявил, что текущие ограничения ChatGPT являются результатом чрезмерной осторожности в отношении психического здоровья, но теперь он считает, что языковая модель может «относиться к взрослым пользователям как к взрослым».
«Теперь, когда нам удалось смягчить серьезные проблемы с психическим здоровьем и появились новые инструменты, мы сможем безопасно ослабить ограничения в большинстве случаев», — написал Олтман.
«Через несколько недель мы планируем выпустить новую версию ChatGPT, которая позволит людям иметь личность, ведущую себя более похоже на то, что людям нравилось в 4o (мы надеемся, она будет лучше!). Если вы хотите, чтобы ваш ChatGPT отвечал очень похоже на человека, использовал массу смайликов или вел себя как друг, ChatGPT должен это делать (но только если вы этого хотите, а не потому, что мы максимизируем использование)», — продолжил он.
«В декабре, по мере более полного внедрения возрастной проверки и в рамках нашего принципа «относиться к взрослым пользователям как к взрослым», мы разрешим еще больше, например, эротику для верифицированных взрослых», — сказал он.
Олтман далее уточнил, что пользователи «не получат эту функцию, если не попросят о ней».
Это объявление последовало примерно через месяц после того, как OpenAI представила новые функции ChatGPT, направленные на создание более безопасного опыта для подростков.
Усиленные меры защиты для подростков позволяют родителям привязать свою учетную запись ChatGPT к учетной записи своего подростка, контролировать, как ChatGPT отвечает их подростку, с помощью правил поведения модели, соответствующих возрасту, и управлять тем, какие функции отключать, включая память и историю чатов, сообщила компания в блоге.
«Мы ставим безопасность выше конфиденциальности и свободы для подростков; это новая и мощная технология, и мы считаем, что несовершеннолетние нуждаются в значительной защите», — заявил Олтман в прошлом месяце.
Родители также будут получать уведомления, когда система обнаруживает, что их подросток переживает момент острого стресса, — функция, которая, по словам OpenAI, будет разрабатываться с учетом мнения экспертов.
«Если пользователь младше 18 лет испытывает суицидальные мысли, мы попытаемся связаться с родителями пользователя и, если это не удастся, свяжемся с властями в случае непосредственной угрозы», — написал Олтман.
Родители также получат доступ к новому контролю, который позволяет им устанавливать комендантский час, когда их подросток не может использовать ChatGPT.
