Один из крупнейших банков Австралии, Westpac Banking Corporation, внедрил систему контроля за использованием нейросетей своими сотрудниками. Руководство кредитной организации приняло решение обязать персонал перенаправлять простые запросы на более доступные и экономичные модели искусственного интеллекта. Данная инициатива направлена на масштабирование ИИ-технологий внутри компании при одновременном снижении операционных издержек.
Стратегия управления токенами и распределение вычислительных мощностей
Основным инструментом контроля стал мониторинг потребления токенов — единиц учета текстовой информации в больших языковых моделях (LLM). Главный специалист по ИИ в Westpac, Дэн Джемин, подчеркнул, что использование флагманских и дорогостоящих моделей для решения тривиальных задач является неэффективным. Токены в топовых моделях могут стоить в десятки раз дороже, чем в их облегченных версиях, что при масштабах корпорации формирует значительные статьи расходов.
В рамках новой политики сотрудники должны придерживаться следующего алгоритма:
- Использование базовых моделей для суммаризации текстов и простых ответов на вопросы.
- Применение продвинутых LLM только для написания сложного программного кода или глубокого анализа данных.
- Регулярная отчетность по объему потребляемых вычислительных ресурсов.
«Мы стремимся направлять более простые задачи на более дешевые модели. Это позволит оптимизировать затраты и повысить общую эффективность работы с ИИ», — заявил Дэн Джемин.
Экономическая эффективность и перспективы автоматизации
Переход на гибкое распределение задач между ИИ-моделями позволяет Westpac избежать типичной проблемы «переплаты за избыточную мощность». В банковском секторе, где объемы обрабатываемой информации исчисляются терабайтами, грамотная архитектура затрат на облачные вычисления становится ключевым фактором конкурентоспособности. Подобный подход к сегментации задач уже начинают внедрять и другие финансовые конгломераты по всему миру.
Внедрение системы контроля за использованием искусственного интеллекта в Westpac демонстрирует переход индустрии от этапа экспериментов к этапу прагматичной эксплуатации технологий. Ожидается, что оптимизация расходов позволит банку направить освободившиеся ресурсы на разработку собственных специализированных ИИ-решений, адаптированных под жесткие требования финансового законодательства и безопасности данных.