Интернет-управление Китая (CAC) представило проект новых правил, направленных на регулирование антропоморфных интерактивных сервисов на базе искусственного интеллекта. Основной акцент в документе сделан на защите уязвимых групп населения — несовершеннолетних и пожилых людей, что свидетельствует о стремлении властей минимизировать риски, связанные с быстрым развитием ИИ-технологий.
Особый контроль за взаимодействием ИИ с несовершеннолетними
Проект правил вводит строгие требования для поставщиков ИИ-услуг, предоставляющих функции эмоциональной поддержки детям и подросткам. Ключевым условием становится получение согласия от родителей или опекунов. Кроме того, для них будет предусмотрен специальный функционал контроля, который включает:
- Уведомления о потенциальных рисках безопасности.
- Возможность просмотра истории взаимодействия ребенка с ИИ-сервисом.
- Функции блокировки отдельных ролей или сценариев в ИИ.
- Ограничение времени использования сервиса.
- Запрет на совершение финансовых операций, таких как пополнение счета.
Провайдеры также будут обязаны внедрить надежные системы для идентификации личности несовершеннолетних пользователей, чтобы обеспечить соблюдение установленных норм. Эти меры направлены на предотвращение интернет-зависимости и защиту детей от нежелательного контента.
Забота о пожилых пользователях и защита данных
Для защиты пожилых людей, которые также являются активными пользователями цифровых сервисов, вводится требование об установке контактного лица для экстренных случаев. Если система зафиксирует потенциальную угрозу жизни, здоровью или имуществу пожилого человека, сервис должен будет незамедлительно уведомить указанное контактное лицо. Предусматривается также оказание социальной, психологической или экстренной помощи.
В проекте уделено внимание и общей безопасности данных. Запрещается передача информации о взаимодействии пользователей с ИИ третьим лицам без явного согласия или законодательных оснований. Для обработки данных, собранных у несовершеннолетних, потребуется отдельное согласие их опекунов. Кроме того, при непрерывном использовании персонализированных ИИ-сервисов более двух часов, провайдеры должны будут выводить напоминание о необходимости сделать перерыв.
Общий курс на усиление контроля
Новый законопроект является частью более широкой стратегии Китая по регулированию сферы искусственного интеллекта. Ранее в стране уже были приняты меры, обязывающие разработчиков регистрировать свои алгоритмы, маркировать сгенерированный ИИ контент и использовать для обучения моделей только "законные данные". В случае выявления серьезных рисков безопасности, поставщики услуг будут обязаны ограничить функциональность, приостановить или полностью прекратить предоставление сервиса, а также сообщить об инциденте в компетентные органы.
Власти Китая стремятся найти баланс между поддержкой технологического развития и обеспечением социального контроля и безопасности. Разработка комплексного законодательства в области ИИ продолжается, и представленный проект является очередным шагом на пути к созданию безопасной и контролируемой цифровой среды для всех граждан.