Администрация США намерена пересмотреть текущие рекомендации по регулированию искусственного интеллекта, значительно расширив сферу федерального контроля. Согласно новым планам Белого дома, обязательное тестирование на безопасность перед публичным релизом затронет не только проприетарные разработки, но и модели с открытым исходным кодом, если их вычислительная мощность достигнет критических показателей.
От закрытых систем к универсальному контролю
На текущий момент принятые принципы безопасности ориентированы преимущественно на «закрытые» архитектуры, разрабатываемые лидерами индустрии, такими как OpenAI и Anthropic. Однако стремительное развитие Open Source решений заставило чиновников пересмотреть подходы, заложенные еще при предыдущей администрации. Представители Белого дома подчеркивают, что по мере роста производительности открытых систем риски, связанные с их нецелевым использованием, становятся сопоставимы с рисками закрытых коммерческих продуктов.
- Регулирование затронет модели следующего поколения, сравнимые по возможностям с GPT-5.6.
- Основной акцент будет сделан на превентивном федеральном анализе уязвимостей.
- Обновление нормативной базы ожидается в течение ближайших нескольких месяцев.
Критерии «передовых возможностей»
Ключевым фактором для попадания под государственное регулирование станет достижение моделями уровня так называемых «передовых» (frontier) систем. В правительстве поясняют, что открытый доступ к весам моделей такого масштаба, как перспективная Mythos от Anthropic, требует дополнительных протоколов безопасности.
Мы планируем включить открытые модели в сферу действия этих принципов, как только они продемонстрируют возможности, сопоставимые с мощнейшими закрытыми аналогами, — отметил официальный представитель Белого дома.
Изменения в политике регулирования отражают стремление властей создать единый стандарт безопасности для всей ИИ-отрасли. Внедрение обязательных проверок для Open Source проектов может существенно изменить ландшафт разработки, заставив сообщество уделять больше внимания этическим аспектам и защите от злоупотреблений еще на этапе обучения нейросетей.