Облачная платформа Amazon Web Services (AWS) столкнулась с серией технических инцидентов, вызванных некорректной работой внутренних инструментов на базе искусственного интеллекта. В последние месяцы зафиксировано как минимум два крупных прерывания в предоставлении сервисов, что ставит под вопрос безопасность полной автономности ИИ в управлении критической инфраструктурой. Учитывая, что AWS обеспечивает около 60% операционной прибыли всей корпорации Amazon, стабильность этих систем является приоритетной задачей для технологического гиганта.
Автономные действия Kiro и последствия для инфраструктуры
Наиболее резонансный инцидент произошел в декабре прошлого года, когда система анализа клиентских затрат AWS оказалась недоступна в течение 13 часов. Причиной сбоя стали действия AI-инструмента под названием Kiro, которому была предоставлена возможность функционировать автономно. В ходе выполнения операций ИИ принял решение о радикальной очистке данных, инициировав процесс «удаления и перестройки среды».
Это была ошибка пользователя, а не фундаментальная ошибка AI. Инцидент затронул только один сервис в отдельных регионах материкового Китая — прокомментировали ситуацию официальные представители Amazon.
Однако эксперты отрасли отмечают, что сам факт предоставления ИИ-агенту прав на удаление инфраструктурных узлов несет в себе высокие риски для стабильности облака.
Меры по предотвращению будущих инцидентов
В ответ на возникшие сложности руководство AWS пересмотрело регламенты взаимодействия инженеров с интеллектуальными системами. Компания активно развивает направление «интеллектуальных агентов», способных писать код и оптимизировать процессы, однако теперь их деятельность строго ограничена.
- Внедрена система обязательного коллегиального рецензирования (peer review) для любых действий, инициированных ИИ.
- Запущены программы дополнительного обучения персонала по взаимодействию с автономными системами.
- Установлены дополнительные программные барьеры, ограничивающие права ИИ-инструментов на необратимые изменения в облачной среде.
События последних месяцев демонстрируют сложности, с которыми сталкиваются ведущие технологические компании при интеграции генеративного ИИ в управление сложными системами. Несмотря на инциденты, Amazon намерена продолжать развитие AI-программирования, делая упор на гибридную модель контроля, где окончательное решение остается за человеком. Ожидается, что усиление мер безопасности позволит избежать подобных репутационных и финансовых потерь в будущем.