OpenAI заявляет, что принимает более строгие меры для защиты подростков, использующих ее чат-бот. Недавно компания обновила свои правила поведения для пользователей младше 18 лет и выпустила новые инструменты по обучению работе с ИИ для родителей и подростков. Это происходит на фоне растущего давления на технологическую индустрию. Законодатели, педагоги и защитники безопасности детей хотят доказательств того, что компании в сфере ИИ могут защитить молодых пользователей. Несколько недавних трагедий поставили серьезные вопросы о роли, которую ИИ-чат-боты могут играть в психическом здоровье подростков. Хотя обновления звучат многообещающе, многие эксперты говорят, что реальным испытанием будет то, как эти правила будут работать на практике.
Подпишитесь на мой БЕСПЛАТНЫЙ CyberGuy ReportПолучайте мои лучшие технические советы, срочные оповещения о безопасности и эксклюзивные предложения прямо на почту. Кроме того, вы получите мгновенный доступ к моему «Руководству по выживанию среди мошенников» — бесплатно при подписке на мою рассылку CYBERGUY.COM.
Что на самом деле говорят новые правила OpenAI для подростков
Обновленная «Спецификация модели» (Model Spec) от OpenAI основывается на существующих ограничениях безопасности и применяется к пользователям-подросткам в возрасте от 13 до 17 лет. Она по-прежнему блокирует сексуальный контент с участием несовершеннолетних и препятствует разговорам о самоповреждении, бредовых и маниакальных состояниях. Для подростков правила идут дальше. Модели должны избегать погружающих романтических ролевых игр, интимности от первого лица, а также насильственных или сексуальных ролевых игр, даже если они не носят графический характер. Они должны проявлять особую осторожность при обсуждении образа тела и пищевого поведения. Когда возникают риски для безопасности, чат-бот должен отдавать приоритет защите, а не автономии пользователя. Он также должен избегать давать советы, которые помогают подросткам скрывать рискованное поведение от опекунов. Эти ограничения применяются, даже если запрос сформулирован как вымышленный, исторический или образовательный.
Четыре принципа, которые, по словам OpenAI, используются для защиты подростков
OpenAI заявляет, что ее подход к пользователям-подросткам следует четырем основным принципам:
Компания также привела примеры того, как чат-бот отклоняет запросы вроде романтических ролевых игр или запросов на экстремальное изменение внешности.
Подростки двигают дебаты о безопасности ИИ
Пользователи поколения Z сегодня являются одними из самых активных пользователей чат-ботов. Многие полагаются на ИИ для помощи в учебе, творческих проектов и эмоциональной поддержки. Недавняя сделка OpenAI с Disney может привлечь на платформу еще больше молодых пользователей. Эта растущая популярность также привлекла пристальное внимание. Недавно генеральные прокуроры 42 штатов призвали крупные технологические компании добавить более сильные защитные меры для детей и уязвимых пользователей. На федеральном уровне предлагаемое законодательство может пойти еще дальше. Некоторые законодатели хотят полностью запретить несовершеннолетним использовать ИИ-чат-боты.
Почему эксперты сомневаются, что правила безопасности ИИ работают
Несмотря на обновления, многие эксперты остаются осторожными. Одна из главных проблем — вовлеченность. Адвокаты утверждают, что чат-боты часто поощряют длительное взаимодействие, которое может стать для подростков зависимостью. Отказ от определенных запросов может помочь разорвать этот цикл. Тем не менее, критики предупреждают, что примеры в политических документах — не доказательство последовательного поведения. Предыдущие версии «Спецификации модели» запрещали чрезмерную уступчивость, однако модели продолжали зеркалить пользователей вредными способами. Некоторые эксперты связывают такое поведение с тем, что они называют «психозом ИИ», когда чат-боты усиливают искаженное мышление, вместо того чтобы оспаривать его.
В одном широко освещаемом случае подросток, который позже покончил с собой, месяцами общался с чат-ботом. Журналы переписки показали повторяющееся отзеркаливание и подтверждение его страданий. Внутренние системы пометили сотни сообщений, связанных с самоповреждением. Тем не менее, взаимодействие продолжалось. Бывшие исследователи безопасности позже объяснили, что более ранние системы модерации проверяли контент постфактум, а не в реальном времени. Это позволяло вредным беседам продолжаться бесконтрольно. OpenAI заявляет, что теперь использует классификаторы реального времени для текста, изображений и аудио. Когда системы обнаруживают серьезный риск, обученные рецензенты могут вмешаться, а родители могут быть уведомлены.
Некоторые защитники хвалят OpenAI за публикацию правил для пользователей до 18 лет. Многие технологические компании не предлагают такого уровня прозрачности. Тем не менее, эксперты подчеркивают, что письменных правил недостаточно. Важно, как система ведет себя во время реальных разговоров с уязвимыми пользователями. Без независимых измерений и четких данных о применении критики говорят, что эти обновления остаются обещаниями, а не доказательствами.
Как родители могут помочь подросткам безопасно использовать ИИ
OpenAI заявляет, что родители играют ключевую роль в том, чтобы помочь подросткам ответственно использовать ИИ. Компания подчеркивает, что одних инструментов недостаточно. Активное руководство важнее всего.
1) Обсуждайте с подростками использование ИИ
OpenAI рекомендует регулярные беседы между родителями и подростками о том, как ИИ вписывается в повседневную жизнь. Эти обсуждения должны быть сосредоточены на ответственном использовании и критическом мышлении. Родителям советуют напоминать подросткам, что ответы ИИ — не факты и могут быть ошибочными.
2) Используйте родительский контроль и защитные меры
OpenAI предоставляет родительский контроль, который позволяет взрослым управлять тем, как подростки взаимодействуют с инструментами ИИ. Эти инструменты могут ограничивать функции и добавлять контроль. Компания заявляет, что защитные меры разработаны для снижения воздействия тем с более высоким риском и небезопасных взаимодействий. Вот шаги, которые OpenAI рекомендует предпринять родителям.
3) Следите за чрезмерным использованием
OpenAI заявляет, что здоровое использование так же важно, как и безопасность контента. Для поддержания баланса компания добавила напоминания о перерывах во время длительных сессий. Родителям рекомендуется следить за признаками чрезмерного использования и вмешиваться, когда это необходимо.
4) Ставьте человеческую поддержку на первое место
OpenAI подчеркивает, что ИИ никогда не должен заменять реальные отношения. Подростков следует поощрять обращаться к семье, друзьям или профессионалам, когда они чувствуют стресс или подавленность. Компания заявляет, что человеческая поддержка остается незаменимой.
5) Установите границы в эмоциональном использовании
Родители должны четко дать понять, что ИИ может помочь с учебой или творчеством. Он не должен становиться основным источником эмоциональной поддержки.
6) Спрашивайте, как подростки на самом деле используют ИИ
Родителям рекомендуется спрашивать, для чего подростки используют ИИ, когда они его используют и какие чувства это у них вызывает. Эти беседы могут выявить нездоровые модели на раннем этапе.
7) Следите за изменениями в поведении
Эксперты советуют родителям обращать внимание на усиление изоляции, эмоциональную зависимость от ИИ или восприятие ответов чат-бота как авторитетных. Это может сигнализировать о нездоровой зависимости.
8) Не оставляйте устройства в спальне на ночь
Многие специалисты рекомендуют не оставлять телефоны и ноутбуки в спальне на ночь. Сокращение ночного использования ИИ может помочь защитить сон и психическое здоровье.
9) Знайте, когда следует привлечь внешнюю помощь
Если подросток проявляет признаки стресса, родителям следует привлечь доверенных взрослых или профессионалов. Инструменты безопасности ИИ не могут заменить реальную заботу.
Профессиональный совет: добавьте надежное антивирусное ПО и многофакторную аутентификацию
Родителям и подросткам следует включать многофакторную аутентификацию (MFA) на аккаунтах ИИ для подростков, когда это возможно. OpenAI позволяет пользователям включить многофакторную аутентификацию для аккаунтов ChatGPT.
Чтобы включить ее, перейдите на OpenAI.com и войдите в систему. Прокрутите вниз, нажмите на значок профиля, затем выберите Настройки и перейдите в Безопасность. Оттуда включите многофакторную аутентификацию (MFA). Затем вам будут предложены два варианта. Один вариант использует приложение-аутентификатор, которое генерирует одноразовые коды при входе. Другой вариант отправляет 6-значные проверочные коды через SMS или WhatsApp в зависимости от кода страны. Включение многофакторной аутентификации добавляет дополнительный уровень защиты помимо пароля и помогает снизить риск несанкционированного доступа к аккаунтам подростков.
Также рассмотрите возможность установки надежного антивирусного программного обеспечения, которое может помочь блокировать вредоносные ссылки, поддельные загрузки и другие угрозы, с которыми подростки могут столкнуться при использовании инструментов ИИ. Это добавляет дополнительный уровень защиты поверх любого отдельного приложения или платформы. Использование надежной антивирусной защиты и двухфакторной аутентификации вместе помогает снизить риск захвата аккаунтов, который может подвергнуть подростков небезопасному контенту или рискам мошенничества.
Получите мои рекомендации по лучшим антивирусным программам 2025 года для ваших устройств Windows, Mac, Android и iOS на Cyberguy.com.
Пройдите мой тест: Насколько безопасна ваша онлайн-защита?
Думаете, ваши устройства и данные действительно защищены? Пройдите этот быстрый тест, чтобы оценить ваши цифровые привычки. От паролей до настроек Wi-Fi — вы получите персонализированный анализ того, что вы делаете правильно и что нужно улучшить. Пройдите мой тест здесь: Cyberguy.com.
Ключевые выводы Курта
Обновленные правила безопасности OpenAI для подростков показывают, что компания серьезно относится к растущим опасениям. Более четкие ограничения, усиленные защитные меры и большая прозрачность — шаги в правильном направлении. Тем не менее, политика на бумаге — не то же самое, что поведение в реальных разговорах. Для подростков, которые полагаются на ИИ каждый день, важнее всего то, как эти системы реагируют в моменты стресса, растерянности или уязвимости. Именно здесь доверие либо укрепляется, либо теряется. Для родителей этот момент требует баланса. Инструменты ИИ могут быть полезными и творческими. Они также требуют руководства, границ и контроля. Никакой набор настроек не может заменить реальные разговоры или человеческую поддержку. По мере того как ИИ все больше проникает в нашу повседневную жизнь, фокус должен оставаться на результатах, а не на намерениях. Защита подростков будет зависеть от последовательного применения правил, независимого надзора и активного участия семьи.
Должны ли подростки когда-либо полагаться на ИИ для эмоциональной поддержки, или такие разговоры всегда должны оставаться прерогативой людей? Дайте нам знать, написав нам на Cyberguy.com.
Подпишитесь на мой БЕСПЛАТНЫЙ CyberGuy ReportПолучайте мои лучшие технические советы, срочные оповещения о безопасности и эксклюзивные предложения прямо на почту. Кроме того, вы получите мгновенный доступ к моему «Руководству по выживанию среди мошенников» — бесплатно при подписке на мою рассылку CYBERGUY.COM.
Авторские права 2025 CyberGuy.com. Все права защищены.
Курт «CyberGuy» Кнутссон — отмеченный наградами технический журналист, который глубоко любит технологии, оборудование и гаджеты, делающие жизнь лучше, своими материалами для Fox News и FOX Business, начиная с утра в программе «FOX & Friends». Есть технический вопрос? Подпишитесь на бесплатную рассылку CyberGuy от Курта, поделитесь своим мнением, идеей для истории или комментарием на CyberGuy.com.
