OpenAI запустила специальный режим ChatGPT для подростков

OpenAI запустила специальный подростковый режим ChatGPT с дополнительными ограничениями контента, функциями родительского контроля и системой определения возраста пользователей. Режим рассчитан на несовершеннолетних пользователей ChatGPT, прежде всего подростков 13–17 лет.

Компания подчеркивает, что речь идет не об отдельном приложении, а об особом режиме работы ChatGPT. Если система определит, что владельцу аккаунта меньше 18 лет, для него могут автоматически включить дополнительные меры защиты и некоторые ограничения функций.

ChatGPT не предназначен для детей младше 13 лет. Пользователям в возрасте от 13 до 18 лет для использования сервиса необходимо согласие родителей или опекунов.

ChatGPT будет пытаться определить возраст пользователя

Одним из ключевых элементов системы стало прогнозирование возраста. OpenAI может анализировать связанные с аккаунтом сигналы и определять, вероятно ли, что пользователь несовершеннолетний.

Среди таких сигналов компания называет общие темы разговоров с ChatGPT, время суток, когда человек пользуется сервисом, особенности использования аккаунта и продолжительность его существования.

Система может применить подростковый режим даже в том случае, если пользователь ранее самостоятельно указал дату рождения.

Если система ошибочно определит совершеннолетнего пользователя как подростка, человек сможет подтвердить свой возраст и отключить дополнительные ограничения. Для проверки возраста OpenAI использует сервис Persona. В зависимости от страны пользователю может потребоваться селфи или документ, удостоверяющий личность.

OpenAI заявляет, что сама не получает загруженный документ или фотографию. Компания получает только необходимую информацию о возрасте. Persona должна удалить переданные для проверки материалы в течение семи дней.

Система прогнозирования возраста внедряется по всему миру. В странах Евросоюза ее развертывание будет происходить отдельно с учетом региональных требований.

Какие ответы ChatGPT ограничат для подростков

В подростковом режиме по умолчанию активируется дополнительная фильтрация чувствительного контента. ChatGPT должен осторожнее отвечать на запросы, связанные с натуралистическим насилием, опасными интернет-челленджами и другим потенциально вредным содержанием.

Дополнительные ограничения также распространяются на сексуальные, романтические и насильственные ролевые сценарии, а также контент, пропагандирующий экстремальные стандарты внешности, нездоровое похудение или унижение человека из-за его тела.

При этом подростки по-прежнему смогут использовать ChatGPT для учебы, поиска информации, творчества и других обычных задач. OpenAI также заявляет, что аккаунтам в подростковом режиме не будет показываться реклама.

Родители смогут устанавливать «тихие часы»

Отдельный блок изменений касается родительского контроля. Родитель или опекун сможет связать свой аккаунт с аккаунтом подростка и управлять частью его настроек.

В частности, можно включать или отключать голосовой режим и генерацию изображений, управлять использованием сохраненной памяти, настройками передачи данных для улучшения моделей и дополнительной фильтрацией чувствительного контента.

Также родители смогут устанавливать так называемые тихие часы — определенный промежуток времени, в течение которого подросток не сможет пользоваться ChatGPT. Например, таким образом можно ограничить использование сервиса ночью или во время учебы.

Кроме того, через родительский контроль можно активировать Study Mode. В таком случае новые разговоры подростка с ChatGPT по умолчанию будут начинаться в учебном режиме.

Родители не смогут читать переписку подростка

OpenAI отдельно подчеркивает, что подключение родительского контроля не дает родителям доступа к истории разговоров подростка и не позволяет следить за его перепиской в реальном времени.

Исключением являются отдельные ситуации, когда системы безопасности и специалисты OpenAI выявляют признаки серьезного риска для подростка. В таких случаях связанный родитель или опекун может получить уведомление, однако компания обещает передавать только информацию, необходимую для обеспечения безопасности ребенка.

Подросток также может самостоятельно отвязать аккаунт от родительского контроля. В таком случае родитель получит соответствующее уведомление.

Когда система определяет, что владельцу аккаунта исполнилось 18 лет, подростковые ограничения отключаются, а подключенный родительский контроль прекращает действовать.

По материалам: OpenAI — Age prediction in ChatGPT, OpenAI — Parental Controls