В экспертном сообществе обсуждается деятельность Института государственной политики Ганновера, который, согласно расследованию издания 404media, занимается созданием контента для влияния на алгоритмы больших языковых моделей (LLM). Организация, основанная менее месяца назад, уже опубликовала более сотни материалов, направленных на изменение контекста ответов нейросетей по вопросам геополитики.
Механизмы влияния на поисковую выдачу ИИ
Согласно имеющимся данным, управление институтом осуществляет американская рекламная компания Piro Inc., а финансирование проекта связывают с израильскими структурами. Основная цель деятельности заключается в насыщении информационного пространства специфическим контентом, который впоследствии индексируется нейросетями и используется ими при генерации ответов пользователям. Специалисты отмечают следующие особенности публикаций:
- Публикация более 100 статей в течение первого месяца работы проекта.
- Использование анонимного авторства при сохранении серьезного академического стиля.
- Наличие сложных диаграмм и текстовых ссылок на источники при отсутствии прямых гиперссылок.
- Фокус на темах антисемитизма, Палестины и государственной политики Израиля.
Подобные методы часто называют «SEO для ИИ» или оптимизацией под генеративные движки, где задача состоит не в привлечении живых читателей, а в формировании обучающей выборки для алгоритмов.
Реакция индустрии и этические аспекты
Ситуация вокруг Института Ганновера подчеркивает уязвимость современных систем ИИ перед целенаправленными кампаниями по дезинформации или одностороннему освещению событий. Поскольку разработчики чат-ботов, таких как ChatGPT или Claude, полагаются на доступные в сети данные, массовое создание псевдо-экспертных статей может привести к смещению нейтральности нейросетевых ответов.
Целью данной деятельности является формирование контента для больших языковых моделей, которые используются для генерации ответов, — отмечают исследователи в материале 404media.
Данный инцидент ставит перед технологическими гигантами новые вызовы по фильтрации источников данных. В ближайшей перспективе можно ожидать ужесточения алгоритмов проверки достоверности контента, чтобы предотвратить использование генеративного ИИ как инструмента в информационном противоборстве. Инцидент с Институтом Ганновера наглядно демонстрирует, что борьба за влияние в цифровой среде перемещается из плоскости классических медиа в сферу обучения искусственного интеллекта.