Компания Meta Platforms оказалась в центре скандала после публикации отчета организации Tech Transparency Project (TTP), согласно которому платформы Facebook и Instagram разместили тысячи рекламных объявлений, продвигающих дипфейк-технологии. Исследователи обнаружили, что значительная часть этого контента нарушает внутреннюю политику корпорации, касающуюся безопасности и этических норм, а основным источником проблемного трафика стал рекламный партнер из Китая.
Роль посредника GatherOne в распространении контента
Согласно данным экспертов, ключевым звеном в этой схеме выступает пекинская компания GatherOne Inc., которая позиционирует себя как посредник между китайскими рекламодателями и глобальными платформами Meta. За последние месяцы через этого партнера было запущено около 7600 рекламных объявлений мобильных приложений. Данные программные продукты используют нейросети для замены лиц на видео, включая создание порнографического контента без согласия участников (non-consensual deepfakes).
Спектр выявленных нарушений включает:
- Использование алгоритмов для генерации обнаженного тела на основе фотографий реальных женщин.
- Продвижение сервисов, позволяющих создавать синтетический контент с участием несовершеннолетних.
- Обход автоматизированных систем модерации Meta через официальные рекламные инструменты.
Критика систем модерации и безопасности Meta
Директор Технологического проекта прозрачности выступил с резкой критикой в адрес руководства корпорации, указав на избирательность контроля качества рекламы.
Meta фактически предоставила карт-бланш одному из своих ведущих китайских рекламных партнеров в вопросе продвижения опасных дипфейк-инструментов, — отмечается в официальном заявлении организации.
Эксперты подчеркивают, что масштаб выявленной кампании ставит под сомнение эффективность алгоритмов Meta в фильтрации вредоносного контента на стадии его модерации перед публикацией.
В текущих условиях рост индустрии генеративного ИИ создает новые вызовы для безопасности пользователей. Ситуация с GatherOne демонстрирует уязвимость рекламных экосистем перед лицом трансграничных манипуляций и требует от технологических гигантов пересмотра отношений с региональными партнерами. Дальнейшее развитие событий покажет, ужесточит ли Meta требования к верификации рекламных креативов, чтобы минимизировать риски распространения незаконного цифрового контента.