На официальном портале Federal Register, который находится под управлением Национального управления архивов и документации США, был обнаружен и впоследствии отключен поисковый инструмент на базе нейросети Qwen. Данная модель искусственного интеллекта разработана китайским технологическим гигантом Alibaba и применялась на государственном ресурсе для навигации по предлагаемым федеральным правилам и нормативным актам.
Технические особенности и реакция властей
Появление поискового функционала на основе китайской разработки привлекло внимание общественности после сообщений в социальных сетях, что привело к оперативной приостановке работы инструмента. Специалисты отмечают, что Qwen является моделью с открытыми весами (open-weight model). Это означает, что основные параметры системы находятся в открытом доступе, позволяя сторонним разработчикам свободно скачивать, модифицировать и интегрировать алгоритмы в свои проекты.
- Инструмент использовался для индексации и поиска по базе федеральных документов;
- Модель Qwen входит в семейство больших языковых моделей (LLM) от подразделения Alibaba Cloud;
- Доступ к инструменту был ограничен сразу после идентификации происхождения технологии.
Оценка рисков безопасности
Несмотря на текущий геополитический контекст, эксперты в области кибербезопасности и искусственного интеллекта призывают к взвешенной оценке инцидента. По их мнению, интеграция открытой модели в общедоступный поисковый интерфейс едва ли могла скомпрометировать конфиденциальные данные.
Использование китайского ИИ-инструмента на сайте Federal Register, вероятно, не представляет прямой угрозы национальной безопасности, так как речь идет о работе с публичными данными и открытым программным кодом.
Инцидент подчеркивает глобальный характер разработки современного программного обеспечения, где Open Source решения стирают границы между национальными технологическими секторами. В ближайшее время ожидается усиление контроля над выбором ИИ-поставщиков для американских государственных ресурсов, что может привести к созданию более строгих протоколов проверки используемых нейросетевых моделей.