Мошеннические схемы с использованием технологий искусственного интеллекта вышли на новый уровень в социальной сети TikTok. Согласно отчету аналитической компании Copyleaks, злоумышленники активно распространяют видеоролики, в которых дипфейки знаменитостей, таких как Тейлор Свифт и Рианна, призывают пользователей участвовать в сомнительных финансовых программах. Использование реалистичных образов известных личностей позволяет преступникам обходить первичные фильтры доверия аудитории и продвигать вредоносные услуги.
Механика обмана и использование технологии ИИ
Для создания контента преступники используют фрагменты реальных интервью, которые подвергаются глубокой обработке с помощью алгоритмов генеративного ИИ. Система манипулирует мимикой и голосом звезд, заставляя их произносить текст, который никогда не звучал в оригинале. Основной целью данных манипуляций является реклама так называемых «программ вознаграждений».
- Использование искусственных аватаров для имитации прямой речи звезд.
- Продвижение несуществующих функций, таких как TikTok Pay.
- Обещания денежных выплат за просмотр роликов и написание отзывов.
Подобные методы социальной инженерии становятся всё более сложными, так как современные инструменты синтеза речи и видео позволяют добиваться высокой степени синхронизации звука и изображения.
Риски для пользователей и позиция экспертов
В одном из наиболее распространенных сценариев ИИ-двойник Тейлор Свифт призывает зрителей зарегистрироваться в системе, которая якобы позволяет монетизировать активность в приложении. Однако конечной целью таких объявлений является сбор персональных данных или получение доступа к банковским счетам жертв под предлогом верификации аккаунта. Эксперты Copyleaks отмечают, что популярность селебрити мирового масштаба значительно повышает конверсию таких объявлений.
Мошенники используют видео, сгенерированные ИИ, для манипулирования реальными кадрами и продвижения подозрительных сервисов, утверждая, что пользователи могут зарабатывать деньги простым просмотром контента.
Масштаб проблемы подчеркивает необходимость усиления модерации рекламных интеграций на платформе TikTok и повышения цифровой грамотности потребителей контента. В условиях стремительного развития генеративных сетей верификация официальных заявлений публичных лиц становится критически важным навыком безопасности в цифровой среде. Вероятно, в ближайшем будущем технологическим гигантам придется внедрить обязательную маркировку любого контента, созданного при помощи нейросетей.