Глава международного отдела Anthropic Гийом Принсен в ходе выступления на Международном саммите по искусственному интеллекту в Дублине выразил серьезную обеспокоенность относительно безопасности систем ИИ с открытым исходным кодом. По мнению представителя компании, открытые модели ИИ несут в себе повышенные риски, особенно в сфере цифровой безопасности и защиты данных, по сравнению с закрытыми проприетарными решениями.
Проблема открытых весов и безопасности
Основной аргумент Anthropic строится на специфике доступа к архитектуре нейросетей. Модели с открытыми весами (open-weight models) позволяют пользователям не только запускать их на собственном оборудовании, но и модифицировать ключевые параметры.
Существует необходимость проявлять осторожность в отношении открытого исходного кода в контексте безопасности. Открытые модели, по определению, несут больше рисков — заявил Принсен 14 октября 2026 года.
Специалисты выделяют несколько ключевых угроз, связанных с бесконтрольным распространением технологий:
- Возможность снятия встроенных ограничений безопасности через дообучение (fine-tuning).
- Использование мощностей ИИ для автоматизации кибератак и создания вредоносного ПО.
- Отсутствие централизованного мониторинга использования модели после её скачивания.
Геополитический контекст и конкуренция
Заявление Anthropic прозвучало на фоне растущей конкуренции на мировом рынке. Многие страны стремятся снизить технологическую зависимость от американских корпораций, рассматривая открытые платформы как основу для создания суверенных решений. Именно доступность исходных кодов делает такие модели привлекательными для национальных проектов в Европе и Азии, где вопросы цифрового суверенитета стоят особенно остро.
Тем не менее, Anthropic настаивает на том, что бесконтрольный доступ к мощным алгоритмам может привести к непредвиденным последствиям. Кибербезопасность становится главным камнем преткновения в споре между сторонниками прозрачности и приверженцами контролируемой разработки.
Дискуссия о балансе между инновациями и безопасностью продолжает оставаться центральной темой индустрии. В то время как Anthropic призывает к осторожности, мировое сообщество ищет компромисс, который позволит использовать преимущества ИИ, минимизируя потенциальные угрозы для глобальной цифровой инфраструктуры.