Социальная сеть TikTok приступила к тестированию инновационной системы, предназначенной для обнаружения и модерации контента, созданного с помощью искусственного интеллекта. Новый функционал позволяет правообладателям и блогерам выявлять несанкционированные ИИ-портреты и дипфейки, которые имитируют их внешность. Данная инициатива направлена на усиление контроля за цифровыми копиями и защиту интеллектуальной собственности в условиях стремительного развития генеративных технологий.
Механика работы и верификация пользователей
На текущем этапе тестирование проводится среди ограниченного круга создателей контента в США. Для получения доступа к защитному инструментарию авторы должны пройти обязательную процедуру подтверждения личности.
- Система использует сервисы компании Jumio для верификации персональных данных пользователя.
- Алгоритмы TikTok проводят сканирование платформы на предмет наличия ИИ-портретов, соответствующих биометрическим данным автора.
- В случае обнаружения совпадений пользователь получает уведомление и возможность просмотреть найденный материал.
Jumio специализируется на онлайн-проверке личности с использованием ИИ и биометрии, что гарантирует высокую точность процесса идентификации.
Борьба с несанкционированными публикациями
После того как система идентифицирует потенциальный дипфейк, автор получает право подать жалобу на публикацию или аккаунт, использующий его образ без официального разрешения. Представители TikTok отмечают, что инструмент помогает автоматизировать процесс мониторинга, который ранее требовал значительных временных затрат со стороны правообладателей.
Инструмент в настоящее время тестируется с некоторыми авторами в США, позволяя им сообщать о контенте, который может использовать их портреты без согласия. — подчеркнули в пресс-службе компании.
Перспективы внедрения системы
Внедрение подобных инструментов является частью глобальной стратегии техгигантов по маркировке и контролю за синтетическими медиа. Ожидается, что после завершения пилотного проекта в США функционал станет доступен пользователям в других регионах. Это решение может создать важный прецедент в индустрии социальных медиа, обеспечивая правовой и технический заслон против бесконтрольного распространения манипулятивного контента.