Демис Хассабис предложил создать глобальное агентство по безопасности ИИ
Основатель и бывший руководитель подразделения Google DeepMind Демис Хассабис выступил с инициативой создания независимого международного агентства, ответственного за контроль безопасности в сфере искусственного интеллекта. Согласно сообщениям источников, обсуждение проекта велось на высоком уровне с участием представителей правительственных структур США и ведущих технологических лабораторий незадолго до завершения его работы на посту генерального директора. Модель МАГАТЭ для общего искусственного интеллекта Основная концепция Хассабиса заключается в формировании структуры, которая могла бы разрабатывать универсальные протоколы безопасности и внедрять лучшие практики контроля при создании общего искусственного интеллекта (AGI). В своих дискуссиях с коллегами и экспертами отрасли он проводил прямую параллель между будущим ИИ-регулятором и деятельностью Международного агентства по атомной энергии (МАГАТЭ). Разработка механизмов предотвращения экзистенциальных рисков.Создание единых технических стандартов для проверки мощных ИИ-моделей.Координация усилий между государственными ведомствами и частными ИИ-лабораториями. Подробности политических консультаций По данным инсайдеров, активная фаза обсуждений пришлась на начало лета текущего года. Сообщается, что Демис Хассабис консультировался по различным аспектам своего плана с высокопоставленными чиновниками из администрации действующего президента, стремясь заручиться поддержкой на государственном уровне. Ключевой задачей этих встреч было определение правовых рамок и степени независимости предлагаемой организации в условиях стремительной технологической гонки. Инициатива направлена на создание прозрачной среды, где развитие AGI будет сопровождаться строгим надзором за этическими и техническими барьерами. Реализация подобного проекта может стать важным этапом в переходе от локального саморегулирования технологических гигантов к глобальной системе цифровой безопасности. Несмотря на уход Хассабиса с поста главы DeepMind, предложенная им идея создания «цифрового МАГАТЭ» остается актуальной повесткой для мирового ИИ-сообщества, стремящегося минимизировать риски бесконтрольного развития автономных систем.