Компания PrismML официально представила инновационную модель искусственного интеллекта Bonsai 2 27B, специально оптимизированную для работы на локальных устройствах. Эта разработка знаменует собой важный этап в развитии технологий Edge AI, позволяя запускать сложные алгоритмы с 27 миллиардами параметров непосредственно на смартфонах и персональных компьютерах без обязательного подключения к облачным серверам.
Технологический прорыв в сжатии данных
В основе новинки лежит модель Qwen3.8 27B от китайского технологического гиганта Alibaba. Специалисты PrismML, совместно с исследовательской группой из Калифорнийского технологического института, применили уникальные методы дистилляции и квантования, что позволило достичь впечатляющих результатов оптимизации:
- Общий объем модели был уменьшен до 5,9 ГБ;
- Потребление оперативной памяти снизилось в 9–10 раз по сравнению с оригиналом;
- Эффективность выполнения задач сохранена на уровне 98% от исходной производительности.
Локальные вычисления и конфиденциальность
Использование Bonsai 2 27B на мобильных платформах решает сразу несколько критических проблем современной индустрии. Снижение требований к памяти позволяет запускать мощный ИИ на устройствах среднего ценового сегмента, а не только на флагманах. Кроме того, локальная обработка данных значительно повышает уровень конфиденциальности пользователей, так как информация не передается на внешние серверы для обработки.
Технология сжатия, разработанная командой исследователей, позволила сохранить почти полную функциональность исходной модели при радикальном снижении системных требований — отмечают представители PrismML в техническом отчете.
Разработка PrismML демонстрирует, что ограничение аппаратных ресурсов мобильных устройств перестает быть барьером для внедрения продвинутых языковых моделей. В ближайшей перспективе подобные решения могут стать стандартом для мобильных операционных систем, обеспечивая быструю и автономную работу интеллектуальных ассистентов и инструментов обработки контента в реальном времени.