Компания OpenAI официально объявила об интеграции специализированной модели прогнозирования возраста в потребительскую версию ChatGPT. Новое технологическое решение направлено на автоматическую идентификацию учетных записей, владельцами которых являются лица младше 18 лет, с целью обеспечения более безопасной среды взаимодействия с искусственным интеллектом.
Механика работы и критерии оценки
Разработанная модель не ограничивается простым анализом анкетных данных, а использует комплексный подход к верификации. Система анализирует совокупность факторов на уровне учетной записи и поведенческих паттернов. Согласно заявлению разработчиков, ключевыми маркерами для алгоритма являются:
- Декларируемый возраст при регистрации профиля;
- История и общая продолжительность существования аккаунта;
- Характерные модели использования сервиса и тематика запросов;
- Временные интервалы и периоды пиковой активности пользователя.
Применение данных факторов позволяет системе с высокой долей вероятности сегментировать аудиторию без необходимости запрашивать документы у каждого пользователя на этапе входа.
Меры защиты и процедура апелляции
В случае, если алгоритм классифицирует пользователя как несовершеннолетнего, ChatGPT автоматически активирует усиленные защитные протоколы. Эти меры включают ограничение доступа к контенту повышенной чувствительности и фильтрацию ответов, которые могут быть признаны неуместными для данной возрастной категории.
Разработчики предусмотрели возможность возникновения ложноположительных срабатываний системы. Если совершеннолетний пользователь будет ошибочно идентифицирован как ребенок, OpenAI предлагает механизм восстановления прав доступа. Для подтверждения корректных данных интегрирован сторонний сервис верификации личности Persona, через который можно пройти официальную проверку.
Внедрение данных инструментов подчеркивает стремление OpenAI соответствовать ужесточающимся международным нормам в области цифровой безопасности детей. Ожидается, что использование предиктивной аналитики для защиты несовершеннолетних станет новым стандартом для крупных платформ, работающих на базе генеративного искусственного интеллекта.