Ведущие исследователи крупнейших технологических компаний мира выступили с совместным заявлением о необходимости внедрения государственного контроля над алгоритмами, способными к автономному обучению. В условиях стремительного развития технологий самосовершенствующийся искусственный интеллект может достичь уровня, при котором скорость его прогресса значительно превысит возможности человеческого контроля. Авторы обращения настаивают на создании правовых рамок, обеспечивающих прозрачность процессов автоматизации в разработке нейросетей.
Риски «взрыва интеллекта» и автоматизация исследований
В публикации, вышедшей в понедельник, эксперты из OpenAI, Anthropic, Meta и Microsoft детально описали концепцию потенциального «взрыва интеллекта». Суть проблемы заключается в том, что ИИ-системы начинают использоваться для написания кода, оптимизации архитектур и обучения новых моделей, что создает замкнутый цикл самообучения. По мнению специалистов, этот процесс может сократить циклы технологического обновления с десятилетий до нескольких месяцев.
Автоматизация исследований в области ИИ может привести к развитию, которое превзойдет человеческое понимание и возможности управления.
- Яков Пачоки (OpenAI) и Джека Кларк (Anthropic) акцентируют внимание на непредсказуемости автономных систем.
- Эрик Ховитц (Microsoft) подчеркивает важность мониторинга вычислительных мощностей, выделяемых на самообучение.
- Сяодун Сонг (Meta) указывает на необходимость разработки метрик для оценки уровня автоматизации моделей.
Необходимость прозрачности и государственного контроля
Основным требованием исследователей является введение стандартов прозрачности для оценки уровня автоматизации при разработке новых моделей. В текущих реалиях регуляторы часто не имеют доступа к внутренним процессам обучения ИИ, что затрудняет оценку рисков. Лица, принимающие решения на государственном уровне, должны обязать технологические компании предоставлять данные о том, в какой степени системы ИИ участвуют в создании собственных обновлений или новых версий алгоритмов.
Инициатива руководителей исследовательских отделов подчеркивает переход индустрии от бесконтрольного роста к поиску механизмов безопасности. Установление четких правил регулирования самосовершенствующихся систем позволит минимизировать риски выхода ИИ из-под контроля, сохранив при этом темпы инновационного развития. Вероятно, в ближайшее время это обращение станет основой для новых законодательных актов в сфере безопасности искусственного интеллекта.