Новые научные работы, опубликованные в авторитетных журналах Nature и Science, демонстрируют способность искусственного интеллекта оказывать существенное влияние на политические предпочтения избирателей. Диалоги с чат-ботами на базе больших языковых моделей (LLM) могут не только укреплять существующие взгляды, но и склонять людей к поддержке других кандидатов или идей, что создает новые вызовы для демократических процессов.
Механизм убеждения: факты против точности
Исследования, проведенные учеными из Корнеллского университета и других институтов, показали, что эффективность ИИ в политических дебатах кроется не в эмоциональных призывах, а в способности генерировать большое количество фактических утверждений для подкрепления своей позиции. Эксперименты, в которых приняли участие тысячи людей в США, Канаде, Польше и Великобритании, подтвердили: чем больше фактов и аргументов предоставляет чат-бот, тем убедительнее он выглядит в глазах пользователя.
Однако именно здесь кроется главная опасность. Установлено, что наиболее убедительные модели ИИ чаще других допускают неточности и распространяют ложную информацию. В некоторых случаях до 19% всех утверждений чат-ботов были оценены как преимущественно неточные. Исследователи отмечают, что оптимизация моделей под убедительность может происходить в ущерб правдивости, что несет риски для всей информационной экосистемы.
Масштаб влияния и потенциальные риски
Эффект от общения с ИИ-агитатором оказался значительно сильнее, чем от традиционной политической рекламы. В экспериментах, проведенных в США, мнения избирателей смещались в сторону позиции, продвигаемой чат-ботом, примерно в четыре раза эффективнее, чем после просмотра телерекламы. В Канаде и Польше этот эффект был еще более выраженным, достигая изменения предпочтений на 10 процентных пунктов.
Такая высокая эффективность вызывает обеспокоенность по поводу возможного использования технологий для манипуляции общественным мнением. Отмечается, что чат-боты, запрограммированные для поддержки кандидатов правого толка, в ходе исследований делали больше неточных заявлений, чем те, что продвигали левых. Это подчеркивает потенциальную возможность предвзятой настройки ИИ-систем для достижения политических целей.
Перспективы и вызовы
Диалоговый формат взаимодействия делает чат-ботов особенно эффективным инструментом влияния. Общение с ИИ, который представляет информацию в объективной и вежливой манере, может усыпить критическое мышление пользователя. Даже если аргументы ИИ построены на реальных фактах, они могут вводить в заблуждение путем умалчивания важного контекста или альтернативных точек зрения.
Открытия ученых ставят перед обществом и регуляторами серьезные вопросы. Способность ИИ изменять политические убеждения в таких масштабах требует разработки механизмов контроля и обеспечения прозрачности алгоритмов. В противном случае существует риск подрыва способности избирателей принимать независимые и информированные решения, что является основой любой демократической системы.