Генеральный директор Google DeepMind Демис Хассабис выступил с инициативой создания независимого международного агентства, которое будет отвечать за унифицированное тестирование и верификацию передовых систем искусственного интеллекта. Ожидается, что такая организация обеспечит соблюдение стандартов безопасности перед публичным релизом новых моделей, что становится критически важным на фоне стремительного развития технологий.
Механизмы проверки и финансирования
Согласно предложенному плану, контроль над проверками будет передан в руки независимых экспертов, в то время как финансовое обеспечение деятельности агентства ляжет на плечи ведущих технологических гигантов. Процесс оценки каждой новой модели будет занимать до 30 дней, в течение которых специалисты проанализируют потенциальные риски. В случае обнаружения критических уязвимостей или угроз орган получит полномочия координировать замедление темпов разработки в отрасли для предотвращения возможных инцидентов.
- Создание единого международного стандарта безопасности.
- Обязательное предварительное тестирование систем до их внедрения.
- Финансирование со стороны крупнейших ИИ-разработчиков.
- Возможность временной приостановки релизов при выявлении рисков.
Причины усиления регуляторного надзора
Одной из ключевых предпосылок для выдвижения данной инициативы стали опасения, связанные с возможностями ИИ в сфере кибербезопасности. В частности, Хассабис упомянул модель Mythos от компании Anthropic, способности которой к проведению кибератак наглядно демонстрируют необходимость внешнего контроля.
Возможности кибератак модели Mythos подчеркивают необходимость усиления регулирования безопасности ИИ, — отметил глава DeepMind.
В ближайшее время Хассабис намерен обсудить детали проекта с представителями правительства США в Вашингтоне.
Поддержка со стороны технологических лидеров
Предложение Демиса Хассабиса нашло отклик среди других ключевых фигур индустрии. В поддержку создания международного регулятора уже высказались генеральный директор OpenAI Сэм Альтман и предприниматель Илон Маск. Такое единодушие подчеркивает серьезность опасений профессионального сообщества относительно неконтролируемого прогресса нейросетей.
Данная инициатива может стать поворотным моментом в истории ИТ-индустрии, превратив добровольные принципы безопасности в обязательный международный регламент. Создание подобного органа позволит сбалансировать инновационный процесс и требования общественной безопасности, минимизируя риски использования ИИ в злонамеренных целях.