Компания Amazon инициировала экстренное совещание с участием ведущих инженеров для анализа причин участившихся технических сбоев, спровоцированных использованием генеративного искусственного интеллекта при написании программного кода. За последние месяцы внутри корпорации наметилась негативная тенденция: инциденты, вызванные автоматизированными инструментами разработки, приобретают всё более широкий охват и приводят к серьезным нарушениям в работе инфраструктуры.
Риски бесконтрольного внедрения ИИ-инструментов
Согласно внутренним отчетам компании, основной проблемой является отсутствие устоявшихся оптимальных практик и надежных защитных механизмов при работе с новыми технологиями генеративного ИИ. Одним из наиболее резонансных случаев стал недавний инцидент, когда веб-сайты и мобильное приложение Amazon функционировали с перебоями на протяжении шести часов. Причиной послужило ошибочное «развертывание программного кода», созданного при помощи ИИ-помощников.
Под угрозой оказалась стабильность торговой площадки в глобальном масштабе, что вынудило руководство пересмотреть текущие регламенты разработки.
Новые правила проверки кода и меры безопасности
Для предотвращения подобных ситуаций в будущем старший вице-президент Amazon Тредвелл анонсировал введение строгой иерархии контроля. Основные изменения включают следующие пункты:
- Обязательное ручное рецензирование всех изменений кода, выполненных с помощью ИИ.
- Все правки от инженеров младшего (Junior) и среднего (Middle) звена должны проходить проверку у высококвалифицированных экспертов.
- Внедрение дополнительных фильтров при автоматизированном развертывании обновлений.
Способы использования новых генеративных ИИ еще не имеют полностью установленных оптимальных практик и защитных мер — отмечается в официальном резюме прошедшего совещания.
Перспективы развития ИИ в Amazon
Несмотря на выявленные трудности, Amazon не планирует отказываться от инструментов на базе искусственного интеллекта, однако фокус смещается в сторону безопасности и подотчетности. Ожидается, что новые протоколы помогут минимизировать риски критических сбоев и создадут фундамент для более ответственного использования генеративных моделей в промышленной разработке программного обеспечения. Ситуация в Amazon станет важным прецедентом для всей технологической индустрии, указывающим на необходимость баланса между скоростью автоматизации и качеством конечного продукта.