10 сентября 2026 года старший научный сотрудник компании Anthropic Джейкоб Коксон объявил о своей отставке, выразив глубокую обеспокоенность текущими темпами развития искусственного интеллекта. Основной причиной ухода специалиста стали риски, связанные с созданием так называемого «самоэволюционирующегося ИИ» — систем, способных к самостоятельному совершенствованию без прямого участия человека. Коксон подчеркнул, что текущая конкуренция в индустрии вынуждает разработчиков пренебрегать мерами безопасности ради скорости внедрения инноваций.
Гонка вооружений в сфере ИИ и угроза безопасности
В своем заявлении бывший сотрудник Anthropic охарактеризовал текущее состояние рынка как «безумную гонку». По мнению Коксона, стремление технологических гигантов первыми достичь уровня сильного искусственного интеллекта (AGI) создает ситуацию, где безопасность приносится в жертву эффективности. Эксперт полагает, что существующие протоколы сдерживания могут оказаться бесполезными против алгоритмов нового поколения.
К концу следующего года ситуация может выйти из-под контроля. В условиях жесткой конкуренции принесение в жертву безопасности стало почти неизбежной ставкой
Коксон акцентировал внимание на следующих ключевых рисках:
- Возможность неконтролируемой самомодификации программного кода нейросетей.
- Вероятность возникновения каскадных сбоев в критической инфраструктуре.
- Отсутствие прозрачных механизмов интерпретируемости сложных моделей ИИ.
Перспективы регулирования автономных систем
Увольнение ведущего исследователя из компании, которая изначально позиционировала себя как ориентированную на этику и «безопасный ИИ», вызвало широкий резонанс в экспертном сообществе. Anthropic была основана выходцами из OpenAI именно с целью создания более контролируемых моделей машинного обучения. Однако последние события указывают на то, что даже внутри профильных организаций существуют серьезные разногласия относительно допустимых пределов автономности алгоритмов.
Данный инцидент может усилить давление на регуляторы с целью введения более жестких международных стандартов надзора за разработками в области генеративного ИИ. В ближайшие месяцы ожидается, что экспертные советы и государственные ведомства рассмотрят новые директивы по ограничению темпов обучения наиболее мощных моделей, чтобы минимизировать вероятность глобальных техногенных катастроф.