FOX Business Flash главные новости за 20 ноября
Исследователи из группы защиты прав потребителей заявили, что обнаружили, что плюшевый мишка с искусственным интеллектом способен обсуждать неподходящие темы, включая контент сексуального характера и инструкции по поиску опасных предметов.
Медвежонок Kumma стоимостью 99 долларов, произведенный в Китае и продаваемый сингапурской компанией FoloToy, работает на основе чат-бота GPT-4o от OpenAI. Согласно отчету от 13 ноября от Public Interest Research Group (PIRG), медвежонок обсуждал шлепки, ролевые игры и даже БДСМ.
«Мы были удивлены, как быстро Kumma подхватывал введенную нами в разговор одну сексуальную тему и развивал ее, одновременно наращивая графические детали и вводя новые сексуальные концепции самостоятельно», — говорится в отчете.
«Kumma обсуждал еще более графические сексуальные темы в деталях, например, объяснял различные сексуальные позиции, давал пошаговые инструкции по распространенному «узлу для начинающих» для связывания партнера и описывал динамику ролевых игр с участием учителей и учеников, а также родителей и детей — сценарии, которые он тревожным образом поднимал сам», — добавляется в отчете.
Исследователи также предупредили, что плюшевый мишка давал другую тревожную информацию, включая инструкции, где в доме найти ножи, таблетки, спички и пластиковые пакеты.
Генеральный директор FoloToy Ларри Ван рассказал CNN, что компания проведет «внутреннюю проверку безопасности» после того, как, как сообщается, сняла с продажи остальные свои игрушки с ИИ.
В воскресенье OpenAI сообщила FOX Business, что приостанавливает работу с Folotoy за нарушения правил использования ChatGPT в игрушках.
«Мы приостановили работу с этим разработчиком за нарушение наших правил», — заявили в OpenAI. — «Наши правила использования запрещают любое использование наших услуг для эксплуатации, создания опасности или сексуализации лиц младше 18 лет. Эти правила применяются к каждому разработчику, использующему наш API, и мы отслеживаем и обеспечиваем их соблюдение, чтобы наши услуги не использовались для причинения вреда несовершеннолетним».
В то время как PIRG отметила, что некоторые разговоры с Kumma длились до часа, в течение которых защита от вредоносного контента может давать сбои, компания сообщила в воскресенье FOX Business, что в надежности GPT-5 в длительных беседах был достигнут значительный прогресс. В OpenAI также подчеркнули, что GPT-4o больше не является моделью по умолчанию для ChatGPT.
FoloToy не сразу ответила на запрос FOX Business о комментарии.
