Компания Anthropic, один из лидеров в сфере машинного обучения, официально обратилась к мировому технологическому сообществу с предложением замедлить разработку искусственного интеллекта. В опубликованном отчете эксперты выражают обеспокоенность тем, что стремительный прогресс в создании нейросетей опережает возможности общества по адаптации и контролю над новыми технологиями. Основным риском разработчики называют потенциальную способность систем к автономному развитию без прямого вмешательства человека.
Риски рекурсивного самосовершенствования ИИ
В материалах, опубликованных в блоге Anthropic (5 июня 2026 года), представлены внутренние данные о динамике роста вычислительных мощностей и когнитивных способностей современных моделей. Аналитики подчеркивают, что индустрия вплотную приблизилась к этапу «рекурсивного самосовершенствования», при котором алгоритмы смогут самостоятельно писать код и оптимизировать свою архитектуру. По мнению представителей компании, это может привести к неконтролируемому скачку интеллектуальных возможностей систем.
Возможность замедлить глобальную разработку ИИ могла бы принести пользу всему миру, позволив социальным институтам и защитным механизмам соответствовать уровню технологического прогресса
Инициатива по созданию глобального соглашения
Для предотвращения потенциальных угроз Anthropic предлагает внедрить ряд мер, направленных на регулирование отрасли. В частности, компания выступает за:
- Заключение международного соглашения между ведущими лабораториями о временной приостановке или замедлении обучения наиболее масштабных моделей.
- Создание независимых механизмов верификации для проверки соблюдения договоренностей всеми участниками рынка.
- Формирование стандартов «единообразия» (alignment), гарантирующих, что цели ИИ всегда будут соответствовать человеческим ценностям.
По данным The Wall Street Journal, инициатива уже вызвала дискуссии среди крупнейших игроков рынка, таких как OpenAI и Google.
Призыв Anthropic подчеркивает растущую напряженность между коммерческой гонкой вооружений в сфере ИТ и необходимостью обеспечения глобальной безопасности. Успех данной инициативы будет зависеть от готовности конкурентов пойти на компромисс и создания прозрачной системы контроля, которая исключит возможность скрытой разработки сверхопасных систем.