Китай ужесточает борьбу с ИИ-мошенничеством в прямых эфирах и видео

В современном цифровом пространстве появляются новые вызовы, и одним из них является мошенничество в прямых эфирах с использованием технологий искусственного интеллекта (ИИ). Китайское управление по регулированию киберпространства (CAC) объявило о принятии активных мер против сетевых аккаунтов, которые злоупотребляют ИИ для имитации известных личностей в онлайн-трансляциях и коротких видео. Эти действия направлены на защиту пользователей от вводящей в заблуждение маркетинговой информации, предотвращение нарушения прав на информацию и поддержание здоровой интернет-экосистемы.

Угроза дипфейков и регуляторный ответ

Распространение технологий глубокого обучения (дипфейков) открывает новые возможности для креативного контента, но также создает серьезные риски, особенно в сфере мошенничества. Злоумышленники используют ИИ для создания реалистичных копий известных людей, чтобы затем распространять через них рекламные сообщения, вводящие пользователей в заблуждение. Это не только подрывает доверие к онлайн-контенту, но и напрямую нарушает права граждан на достоверную информацию. В ответ на растущую угрозу, Китайское управление по регулированию киберпространства (CAC) инициировало масштабную кампанию по пресечению таких нарушений.

Масштабы и результаты кампании

В рамках начатой кампании были предприняты конкретные шаги в отношении ряда сетевых аккаунтов, среди которых были «百货超市小店», «娜娜好物联盟» и «环球护肤美妆甄選», которые активно использовали ИИ для недобросовестного маркетинга. Онлайн-платформы получили предписания о необходимости публикации уведомлений о принятых мерах и проведении строгих проверок для выявления подобных нарушений. На данный момент регулятором зафиксированы впечатляющие результаты: удалено более 8700 единиц ненадлежащего контента, а также заблокировано более 11000 аккаунтов, занимавшихся имитацией знаменитостей.

Дальнейшие шаги и перспективы

Китайское управление по регулированию киберпространства подтвердило свою приверженность дальнейшему применению строгих мер контроля в отношении злоупотреблений ИИ. Ведомство планирует продолжать тесное сотрудничество с различными интернет-платформами для эффективного предотвращения аналогичных нарушений в будущем. Особое внимание будет уделяться оперативному выявлению и блокировке аккаунтов, замешанных в злонамеренном маркетинге с использованием технологий синтеза речи и изображений. Эти усилия подчеркивают глобальную тенденцию к ужесточению регулирования в области ИИ и стремление к созданию более безопасного и прозрачного цифрового пространства.