Компания Huawei представила и открыла исходный код инновационной ИИ-контейнерной технологии Flex:ai. Анонс состоялся 21 ноября в Шанхае на форуме «Применение и развитие ИИ-контейнеров 2025». Новая технология призвана решить одну из ключевых проблем отрасли — низкую эффективность использования дорогостоящих вычислительных ресурсов.
Проблема низкой утилизации мощностей
В современной индустрии искусственного интеллекта средний уровень загрузки вычислительных ресурсов, таких как GPU и NPU, составляет всего 30–40%. Это приводит к значительным издержкам и неэффективному использованию аппаратных мощностей. Технология Flex:ai от Huawei решает эту проблему с помощью механизма разделения вычислительной мощности. Она позволяет разделить одну физическую карту GPU или NPU на несколько виртуальных единиц с гранулярностью до 10. Благодаря этому одна карта может одновременно обрабатывать несколько различных ИИ-задач, что, по заявлению компании, увеличивает среднюю утилизацию ресурсов на 30% в сценариях с неполной нагрузкой.Универсальность и поддержка мульти-вендорности
Ключевым отличием и преимуществом Flex:ai является ее аппаратная независимость. В отличие от аналогичных решений, например, Run:ai от Nvidia, которые работают только с оборудованием собственного производства, технология Huawei способна унифицированно управлять вычислительными ресурсами от разных производителей. Заявлена поддержка оборудования от Nvidia, Ascend и других компаний. Такой подход позволяет создавать гетерогенные вычислительные кластеры, нивелируя различия между аппаратными платформами и обеспечивая более гибкую и эффективную поддержку для задач обучения и инференса моделей ИИ.Открытие исходного кода Flex:ai является стратегическим шагом, направленным на создание более широкой экосистемы для разработчиков и исследователей в области ИИ. Предоставляя открытый доступ к технологии, Huawei способствует развитию унифицированных стандартов управления ресурсами и ускорению инноваций в сфере искусственного интеллекта. Это решение может значительно повлиять на рынок ИИ-инфраструктуры, предложив компаниям более эффективный и экономичный способ управления своими вычислительными мощностями.