В Китае разворачивается прецедентное судебное разбирательство, связанное с использованием искусственного интеллекта для создания нежелательного контента. 14 января в Шанхае состоится апелляционное слушание по первому в стране уголовному делу, где разработчики ИИ-сервиса были осуждены за распространение порнографических материалов, сгенерированных нейросетью. Этот процесс может определить будущее регулирования ИИ-технологий в стране.
Суть обвинений и первый приговор
Осенью 2025 года Народный суд района Сюйхуэй вынес приговор двум создателям чат-бота Alien Chat. Их признали виновными в создании и распространении непристойных материалов с целью извлечения прибыли, назначив наказание в виде четырех и полутора лет лишения свободы. Суд установил, что разработчики намеренно изменяли системные настройки и подсказки (промпты), что позволяло искусственному интеллекту генерировать контент порнографического характера для пользователей.
Проект привлек значительную аудиторию: на платформе было зарегистрировано 116 000 пользователей, из которых 24 000 являлись платными подписчиками. Общая сумма полученных членских взносов превысила 3,63 миллиона юаней. Выборочная проверка сообщений показала, что около 30% проанализированных фрагментов чатов содержали материалы непристойного характера, что и стало основой для обвинительного заключения.
Аргументы защиты и перспективы дела
Осужденные разработчики не согласились с решением суда и подали апелляцию, рассмотрение которой назначено на 14 января в Первом промежуточном народном суде Шанхая. Линия защиты строится на утверждении, что их действия не были направлены на создание порнографии. По словам адвокатов, изменение системных подсказок преследовало цель лучше удовлетворять потребности пользователей в эмоциональном общении с чат-ботом. Ключевым аргументом является тот факт, что сгенерированный контент оставался в приватных чатах и не распространялся за их пределы.
Это дело ставит перед юридической системой Китая сложные вопросы о границах ответственности создателей ИИ-платформ. Результат апелляции может создать важный юридический прецедент. Он покажет, будет ли ответственность за сгенерированный контент возлагаться исключительно на разработчиков, или же будут учитываться намерения пользователей и приватный характер взаимодействия с нейросетью.