В корпоративной среде Amazon зафиксированы случаи нецелевого использования внутренних инструментов искусственного интеллекта для создания видимости продуктивности. Сотрудники корпорации применяют специализированное программное обеспечение для автоматизации избыточных задач, стремясь продемонстрировать руководству высокие показатели вовлеченности в работу с новыми технологиями. Искусственный интеллект в данном контексте становится не инструментом оптимизации, а средством манипуляции внутренней корпоративной отчетностью.
Механизмы имитации и инструмент MeshClaw
По сообщениям осведомленных источников, основным инструментом для манипуляций стал внутренний продукт под названием MeshClaw. Данное ПО разработано для создания автономных ИИ-агентов, способных брать на себя рутинные операции. Однако на практике часть персонала использует его для генерации искусственных запросов, что ведет к неоправданному росту потребления токенов — единиц учета вычислительных мощностей ИИ.
Токены в архитектуре больших языковых моделей являются основным измерителем объема обрабатываемой информации, и их расход напрямую коррелирует с интенсивностью использования системы.
- Создание избыточных циклов автоматизации для второстепенных задач.
- Искусственное завышение объема данных, обрабатываемых ИИ-агентами.
- Формирование фиктивных отчетов о проделанной работе на основе сгенерированных действий.
Причины внедрения метрик активности
Рост подобных практик связывают с жесткой политикой Amazon по форсированному внедрению технологий ИИ во все рабочие процессы. Ранее компания установила амбициозный KPI: еженедельно инструментами ИИ должны пользоваться более 80% штатных разработчиков. В текущем году контроль усилился за счет включения показателей потребления токенов во внутренние рейтинги эффективности сотрудников.
Давление внутри корпорации заставляет персонал искать способы формального соответствия новым критериям, даже если это не приносит реальной пользы бизнесу, — отмечают эксперты, знакомые с ситуацией внутри компании.
Ситуация в Amazon наглядно демонстрирует риски, связанные с переходом на количественные метрики оценки работы в эпоху нейросетей. Погоня за статистическими показателями использования ИИ может привести к девальвации реальных результатов и нерациональному расходу дорогостоящих вычислительных ресурсов. В долгосрочной перспективе компании может потребоваться пересмотр системы оценки в пользу качественных показателей внедрения инноваций.