Основатель и бывший руководитель подразделения Google DeepMind Демис Хассабис выступил с инициативой создания независимого международного агентства, ответственного за контроль безопасности в сфере искусственного интеллекта. Согласно сообщениям источников, обсуждение проекта велось на высоком уровне с участием представителей правительственных структур США и ведущих технологических лабораторий незадолго до завершения его работы на посту генерального директора.
Модель МАГАТЭ для общего искусственного интеллекта
Основная концепция Хассабиса заключается в формировании структуры, которая могла бы разрабатывать универсальные протоколы безопасности и внедрять лучшие практики контроля при создании общего искусственного интеллекта (AGI). В своих дискуссиях с коллегами и экспертами отрасли он проводил прямую параллель между будущим ИИ-регулятором и деятельностью Международного агентства по атомной энергии (МАГАТЭ).
- Разработка механизмов предотвращения экзистенциальных рисков.
- Создание единых технических стандартов для проверки мощных ИИ-моделей.
- Координация усилий между государственными ведомствами и частными ИИ-лабораториями.
Подробности политических консультаций
По данным инсайдеров, активная фаза обсуждений пришлась на начало лета текущего года. Сообщается, что Демис Хассабис консультировался по различным аспектам своего плана с высокопоставленными чиновниками из администрации действующего президента, стремясь заручиться поддержкой на государственном уровне. Ключевой задачей этих встреч было определение правовых рамок и степени независимости предлагаемой организации в условиях стремительной технологической гонки.
Инициатива направлена на создание прозрачной среды, где развитие AGI будет сопровождаться строгим надзором за этическими и техническими барьерами.
Реализация подобного проекта может стать важным этапом в переходе от локального саморегулирования технологических гигантов к глобальной системе цифровой безопасности. Несмотря на уход Хассабиса с поста главы DeepMind, предложенная им идея создания «цифрового МАГАТЭ» остается актуальной повесткой для мирового ИИ-сообщества, стремящегося минимизировать риски бесконтрольного развития автономных систем.