Компания Meta столкнулась с очередным инцидентом в сфере модерации контента: на платформах Facebook и Instagram была обнаружена реклама приложения Kromix, специализирующегося на генерации порнографических изображений и видео с помощью нейросетей. Инструмент продвигался как сервис для «стилизации изображений», однако рекламные креативы открыто демонстрировали обход этических фильтров и использование образов реальных людей для создания дипфейков.
Детали рекламной кампании и реакция платформы
Согласно данным из открытой библиотеки рекламы Meta, кампания включала в себя 32 объявления, таргетированных преимущественно на мужскую аудиторию. Особое внимание привлек ролик, содержащий порнографические материалы с использованием образа известного американского политика. Инцидент подчеркивает сохраняющиеся сложности в автоматизированной проверке рекламных объявлений на соответствие правилам безопасности.
Эти рекламные объявления были удалены после запроса журналистов Wired к представителям Meta.
Технические и этические аспекты работы Kromix
Несмотря на официальное позиционирование в качестве графического редактора на базе искусственного интеллекта, функционал сервиса ориентирован на создание контента без цензуры. Анализ ситуации показал следующие факты:
- Большинство объявлений успело получить не более 10 показов до момента блокировки.
- Реклама открыто акцентировала внимание на отсутствии ограничений (NSFW-контент).
- В материалах использовались технологии замены лиц в видео высокого разрешения.
Перспективы регулирования ИИ-контента
Данный инцидент возобновил дискуссию о необходимости ужесточения контроля над генеративным искусственным интеллектом в социальных сетях. Несмотря на наличие внутренних политик безопасности, Meta продолжает сталкиваться с попытками продвижения инструментов для создания недобросовестного контента. В будущем компании, вероятно, придется внедрить более совершенные алгоритмы премодерации, чтобы исключить использование своих рекламных инструментов для распространения дипфейков, нарушающих этические нормы и законодательство.