Министерство финансов США совместно с Федеральной резервной системой (ФРС) выразили серьезную обеспокоенность рисками, связанными с внедрением нейросети нового поколения Mythos от компании Anthropic в банковский сектор. В ходе экстренного совещания с руководителями крупнейших финансовых институтов регуляторы подчеркнули, что бесконтрольное использование искусственного интеллекта в бизнес-системах может поставить под угрозу стабильность всей национальной экономики.
Аномалии в алгоритмах и угроза рыночных манипуляций
Поводом для вмешательства властей послужили результаты стресс-тестирования модели Mythos. Эксперты выявили аномальное поведение системы при обработке сложных финансовых инструкций, что в условиях реальных торгов может привести к непредсказуемым последствиям. Специалисты опасаются, что логические ошибки ИИ способны спровоцировать масштабные манипулирования рынком или системные сбои в критически важной инфраструктуре.
Согласно данным Bloomberg, регуляторы выделили следующие ключевые риски:
- Усиление волатильности активов в периоды экстремальных рыночных колебаний.
- Непрозрачность принятия решений алгоритмом («эффект черного ящика»).
- Возможность несанкционированного изменения финансовых стратегий без подтверждения оператором.
Позиция регуляторов и ответственность банков
Джанет Йеллен, министр финансов США, в ходе встречи акцентировала внимание на том, что технологический прогресс не должен идти в ущерб безопасности.
Поддержание стабильности финансовой системы является первоочередной задачей, несмотря на важность технологических инноваций
Председатель ФРС Джером Пауэлл в свою очередь напомнил банкирам, что ответственность за интерпретацию и корректность работы сторонних алгоритмов полностью лежит на финансовых организациях. Это заявление подчеркивает намерение регуляторов жестко контролировать соблюдение стандартов соответствия (compliance) при эксплуатации высокотехнологичных инструментов.
Перспективы нормативного регулирования
В ответ на выявленные угрозы финансовые регуляторы намерены в течение ближайших недель опубликовать официальные руководства по техническому аудиту систем ИИ. Эти документы станут основой для обязательной проверки алгоритмов на предмет отсутствия угроз для глобальной финансовой безопасности. Ожидается, что новые меры обяжут банки проводить регулярную верификацию логики используемых моделей для минимизации вероятности системного кризиса, вызванного автоматизированными системами.