Компания OpenAI опубликовала отчет, в котором зафиксирована утечка данных о масштабной китайской кампании по дезинформации. Согласно предоставленным сведениям, сотрудник правоохранительных органов Китая, использовавший нейросеть ChatGPT для генерации контента, по неосторожности раскрыл механизмы работы скрытой сети. Инцидент позволил экспертам по кибербезопасности проследить связь между ИИ-инструментами и систематическими попытками оказать давление на политических оппонентов и иностранных государственных деятелей.
Методы манипуляции и масштабы активности
Технологический анализ показал, что операция была направлена на создание скоординированного информационного шума в социальных медиа. Злоумышленники использовали генеративные модели для автоматизации создания текстов, что позволяло масштабировать деятельность до беспрецедентных объемов. По предварительным оценкам, в кампании могли быть задействованы сотни операторов и тысячи фальшивых аккаунтов.
Среди выявленных тактик специалисты OpenAI выделили:
- Сфабрикованные некрологи и порочащие публикации в адрес диссидентов, находящихся за пределами КНР.
- Создание фейковых профилей, имитирующих американских иммиграционных чиновников для сбора данных или запугивания.
- Дискредитация зарубежных политиков, включая премьер-министра Японии Санаэ Такаити.
Роль искусственного интеллекта в киберугрозах
Данный случай подчеркивает растущую проблему использования Large Language Models (LLM) в целях ведения информационных войн. ИИ позволяет создавать убедительный контент на иностранных языках с минимальными грамматическими ошибками, что затрудняет идентификацию ботов обычными пользователями. Однако именно технические следы взаимодействия с чат-ботом стали ключевой уликой, позволившей специалистам по безопасности связать разрозненные публикации в единую сеть влияния.
Использование инструментов искусственного интеллекта для проведения операций влияния становится все более распространенным, однако ошибки в операционной безопасности позволяют своевременно выявлять такие угрозы.
Раскрытие подобной операции демонстрирует необходимость усиления контроля над использованием ИИ-сервисов со стороны технологических гигантов. Поскольку методы цифрового влияния продолжают совершенствоваться, ключевым фактором защиты информационного пространства становится сотрудничество между разработчиками ИИ и аналитиками в сфере безопасности. В ближайшее время ожидается усиление алгоритмов фильтрации запросов, которые могут быть связаны с государственной пропагандой или киберзапугиванием.