Популярная социальная платформа TikTok отчиталась о масштабной кампании по борьбе с неправомерным использованием технологий искусственного интеллекта. В рамках защиты цифровой безопасности сервис удалил сотни тысяч видеороликов, в которых применялись дипфейки и инструменты для кражи образов знаменитостей, что стало ответом на растущие риски распространения дезинформации.
Масштабы модерации контента с ИИ
Согласно последним данным, администрация TikTok удалила более 538 000 видеоматериалов, нарушающих внутренние правила использования генеративного ИИ. Основные меры были направлены против контента, имитирующего внешность и голоса известных личностей без их согласия. В ходе операции были применены дисциплинарные меры в отношении 4 000 учетных записей, уличенных в систематических нарушениях.
- Удалено свыше 360 000 роликов, имитирующих реальные события с помощью ИИ.
- Обработано около 85 000 единиц контента, нарушающего права на использование голоса.
- Блокировке подверглись аккаунты, совершившие наиболее серьезные правонарушения.
Защита уязвимых категорий пользователей
Отдельным направлением работы стала борьба с мошенническими схемами, ориентированными на пожилых людей. Платформа ликвидировала более 30 000 единиц контента, где использовался образ так называемого «AI-босса» — сгенерированного нейросетью персонажа, вводящего пользователей в заблуждение с целью финансовой выгоды. В результате этой проверки было заблокировано более 1300 специализированных аккаунтов, занимавшихся распространением подобных манипулятивных материалов.
Правовые аспекты и безопасность
Особое внимание модераторы уделили защите интеллектуальной собственности и личных данных. Обработка 85 000 инцидентов, связанных с незаконным копированием биометрических характеристик (голоса и мимики), демонстрирует стремление компании усилить контроль над дипфейк-технологиями.
TikTok применяет строгие санкции к аккаунтам, которые используют ИИ для дезориентации сообщества или нарушения прав третьих лиц, включая полную блокировку профилей без права восстановления.
Ужесточение политики TikTok в отношении искусственного интеллекта подчеркивает глобальный тренд на регулирование синтетического контента. Ожидается, что внедрение новых алгоритмов автоматического распознавания дипфейков позволит платформе сократить время реакции на нарушения и обеспечить более прозрачную информационную среду для миллионов пользователей по всему миру.