Популярная онлайн-энциклопедия «Википедия» вводит жесткие ограничения на использование генеративного искусственного интеллекта в процессе создания и правки материалов. Соучредитель платформы Джимми Уэйлс сообщил, что нейросети не получат права напрямую изменять контент. Данное решение обусловлено сохраняющимися рисками искажения информации и генерации недостоверных фактов алгоритмами, несмотря на их стремительное технологическое развитие.
Проблема «галлюцинаций» и доверия к алгоритмам
Основной причиной блокировки прямого доступа ИИ к редактированию базы знаний стали так называемые «галлюцинации» искусственного интеллекта — склонность языковых моделей выдумывать несуществующие факты, ссылки и биографические данные. Джимми Уэйлс подчеркнул, что хотя в новых поколениях нейросетей эта проблема проявляется реже, общая ситуация все еще остается «очень плохой». Для платформы, чья репутация строится на верифицируемости и точности данных, появление сгенерированных ИИ ошибок критично.
«Вы просто не можете по-настоящему ему доверять», — резюмировал Уэйлс, комментируя текущие возможности больших языковых моделей (LLM).
Роль ИИ как вспомогательного инструмента
Несмотря на запрет автоматического редактирования, администрация «Википедии» не планирует полностью отказываться от современных технологий. Искусственный интеллект будет интегрирован в рабочие процессы, но исключительно в качестве ассистента для модераторов-людей.
Платформа рассматривает следующие сценарии применения ИИ-агентов:
- Автоматическое уведомление редакторов о появлении новых авторитетных источников в сети;
- Первичный мониторинг и сбор специальных новостей по заданным темам;
- Поиск потенциальных дубликатов, синтаксических ошибок или явного вандализма в статьях.
Будущее верификации контента
Ограничения со стороны «Википедии» отражают общий тренд среди крупных контентных и образовательных платформ, стремящихся защитить свои ресурсы от заполнения низкокачественным контентом. Окончательное решение о внесении любых изменений в тексты энциклопедии по-прежнему остается за живыми пользователями и экспертным сообществом. Такой подход позволит сохранить высокие стандарты верификации информации, вещания в нейтральном стиле и защиты от дезинформации в эпоху массового распространения генеративных технологий.