Корпорация Amazon официально объявила о прекращении работы внутренней системы Kirorank, предназначенной для мониторинга активности сотрудников при работе с искусственным интеллектом. Платформа отслеживала, насколько эффективно персонал использует инструменты ИИ на базе системы Amazon Kiro, однако эксперимент привел к неожиданным побочным эффектам, негативно повлиявшим на операционную эффективность компании.
Причины закрытия и проблема «накрутки токенов»
Основной причиной отказа от рейтинга стал резкий рост затрат на вычислительные ресурсы. Как выяснилось в ходе внутреннего аудита, сотрудники начали манипулировать системой для улучшения своих персональных показателей. Чтобы занять более высокие позиции в Kirorank, специалисты поручали интеллектуальным агентам выполнение избыточных или полностью ненужных задач.
Такое поведение привело к ряду негативных последствий:
- Увеличение нецелевого расхода токенов и мощностей облачной инфраструктуры.
- Снижение реальной продуктивности из-за концентрации на метриках, а не на качестве кода.
- Искажение статистических данных о реальной пользе внедрения ИИ-инструментов.
Официальная позиция руководства
Старший вице-президент Amazon Дэйв Тредевелл признал, что первоначальная концепция геймификации рабочего процесса имела благие цели, но не выдержала проверки практикой.
Первоначальное намерение создания рейтинга было хорошим, однако в итоге он привел к значительным дополнительным расходам из-за намеренной накрутки показателей сотрудниками.
По данным Financial Times, инцидент подчеркивает сложность оценки труда программистов в эпоху генеративного ИИ, когда количественные метрики использования нейросетей не всегда коррелируют с качеством конечного продукта.
Будущее ИИ-инструментов в Amazon
Несмотря на закрытие Kirorank, Amazon продолжает активно внедрять технологии генеративного искусственного интеллекта в свои внутренние процессы. Компания планирует пересмотреть методы оценки эффективности работы штата, сместив акцент с объема потребляемых ресурсов на фактическую ценность выполненных проектов. Ожидается, что новые системы мониторинга будут защищены от подобных злоупотреблений и сфокусированы на оптимизации операционных расходов корпорации.