Компания OpenAI официально представила специализированный режим работы ChatGPT для пользователей в возрасте от 13 до 17 лет. Новое обновление направлено на повышение цифровой безопасности несовершеннолетних и внедрение инструментов родительского контроля в экосистему искусственного интеллекта. Согласно актуальной политике безопасности, доступ к платформе для лиц младше 13 лет остается полностью закрытым.
Автоматическая идентификация и защитные фильтры
Система будет активировать защитный профиль автоматически на основе данных о дате рождения, указанных при регистрации. Кроме того, OpenAI задействует алгоритмы оценки возраста, чтобы выявлять пользователей, которые могли указать недостоверные сведения. В рамках подросткового режима вводятся строгие ограничения на генерацию контента, связанного с насилием, самоповреждением, а также романтическими или сексуальными ролевыми играми.
- Интеграция информационных предупреждений при запросах на сенситивные темы.
- Блокировка выдачи по запросам, касающимся расстройств пищевого поведения.
- Повышенная фильтрация потенциально небезопасного или конфиденциального контента.
Инструменты родительского контроля и мониторинга
Важным нововведением стала возможность интеграции родительских аккаунтов для мониторинга активности. Это позволит опекунам более эффективно контролировать взаимодействие подростков с нейросетью. Система предусматривает следующие функции для родителей:
- Установка «периодов молчания» для ограничения использования ИИ в ночное время или во время учебы.
- Получение уведомлений о потенциальных рисках, выявленных внутренними системами безопасности.
- Доступ к истории взаимодействий при возникновении критических инцидентов.
Наша цель — создать безопасную среду, где подростки смогут использовать возможности ИИ для обучения и творчества, минимизируя при этом риски столкновения с неподобающим контентом.
Внедрение новых функций безопасности подчеркивает стремление OpenAI соответствовать международным стандартам защиты данных и этическим нормам работы с несовершеннолетними. Постепенное развертывание обновленного режима ChatGPT позволит компании протестировать эффективность механизмов фильтрации и адаптировать платформу под потребности молодой аудитории без ущерба для их безопасности.