Компания OpenAI официально выступила за усиление государственного регулирования сферы высоких технологий, направив соответствующее обращение губернатору Калифорнии Гэвину Ньюсому. В документе подчеркивается необходимость внедрения жестких стандартов безопасности для разработчиков передовых нейросетевых моделей, что обусловлено стремительным развитием индустрии и потенциальными рисками, которые несут в себе автономные системы.
Инициатива OpenAI по доработке законопроекта SB53
Письмо, подписанное Чаном Парком, главой отдела политики OpenAI в США и Канаде, содержит предложения по совершенствованию регионального законодательства. В частности, компания настаивает на расширении положений закона SB53 (AI Transparency Act), который должен вступить в силу в 2025 году. По мнению экспертов OpenAI, текущие требования, ограничивающиеся лишь отчетами о прозрачности, не могут обеспечить должный уровень защиты в долгосрочной перспективе.
Ключевые требования к безопасности нейросетей
Разработчик ChatGPT предлагает законодательно закрепить следующие меры для компаний, работающих с Frontier Models (наиболее мощными ИИ-системами):
- Внедрение механизмов экстренного отключения («kill switch») для моментальной остановки работы модели в случае непредвиденного поведения.
- Проведение ежегодных независимых аудитов систем безопасности сторонними экспертными организациями.
- Соблюдение повышенных стандартов сетевой защиты для предотвращения утечек весов моделей.
- Обязательное информирование регуляторов обо всех значительных инцидентах, связанных с работой ИИ.
Проблема автономного саморазвития ИИ
Особое внимание в обращении уделяется способности нейросетей к автономным исследованиям и разработкам. OpenAI отмечает, что когда искусственный интеллект начинает самостоятельно совершенствовать свой код или создавать новые алгоритмы, контроль со стороны человека существенно затрудняется.
Нормативные правила должны четко определять необходимость охвата рамками безопасности способности передовых моделей самостоятельно проводить исследования и разработки в области ИИ.
Предложенные меры направлены на создание прозрачной правовой среды, где технологический прогресс будет сбалансирован с требованиями общественной безопасности. В случае принятия данных поправок, Калифорния может стать регионом с самым строгим в мире режимом надзора за разработкой искусственного интеллекта, что неизбежно отразится на глобальных стандартах индустрии.