В социальных сетях, в частности в Instagram, набирает обороты новая тревожная тенденция: использование ИИ-инфлюенсеров для создания и распространения сфабрикованных компрометирующих изображений с участием реальных знаменитостей. Эти дипфейк-материалы, созданные без согласия звезд, активно применяются для привлечения трафика на сторонние ресурсы с контентом для взрослых.
Технология на службе дезинформации
Злоумышленники создают аккаунты несуществующих людей, сгенерированных искусственным интеллектом, и публикуют от их имени изображения, на которых те якобы находятся в компании известных личностей, таких как баскетболист Леброн Джеймс и музыкант Дрейк. Публикации оформляются таким образом, чтобы создать иллюзию скандальной связи, что провоцирует пользователей переходить по ссылкам в профиле. Важно отметить, что в таких постах, как правило, отсутствует какая-либо маркировка, указывающая на искусственное происхождение контента.
Схема монетизации и реакция платформ
Основная цель данной стратегии — монетизация ИИ-порнографии. Ссылки, размещенные в аккаунтах ИИ-инфлюенсеров, ведут на платные сайты для взрослых, где пользователям предлагается приобрести сгенерированные нейросетью обнаженные изображения. Подобная деятельность является прямым нарушением политики Instagram и других социальных сетей. Однако, как отмечают эксперты, материнская компания Meta сталкивается со значительными трудностями в отслеживании и контроле такого рода ИИ-контента на своих платформах, что позволяет подобным схемам существовать и развиваться.
Последствия для общества и репутации
Распространение дипфейков и сфабрикованных материалов несет серьезные репутационные риски для публичных личностей, чьи образы используются без их согласия. Эта проблема поднимает острые вопросы о необходимости совершенствования законодательства в области регулирования искусственного интеллекта и разработки более эффективных инструментов для модерации контента. Технологические гиганты и регуляторы по всему миру ищут способы противодействия этой новой угрозе, чтобы защитить пользователей от дезинформации и злонамеренного использования ИИ.
В конечном счете, распространение фейковых изображений с участием знаменитостей демонстрирует темную сторону развития технологий искусственного интеллекта. Этот феномен подчеркивает острую необходимость в повышении медиаграмотности пользователей и разработке надежных механизмов для идентификации и блокировки сгенерированного контента, используемого в мошеннических и дискредитирующих целях.