Китайская технологическая компания Yue zhi An Mian (известная как «Тёмная сторона Луны») официально представила новую мультимодальную нейросеть Kimi K3, открыв доступ к её весам для широкого сообщества разработчиков. Релиз сопровождается публикацией подробного технического отчета и набора инфраструктурных решений, что подчеркивает стремление компании к развитию глобальной экосистемы искусственного интеллекта с открытым исходным кодом.
Архитектура и технические характеристики Kimi K3
Новая итерация модели базируется на архитектуре Mixture-of-Experts (MoE), которая позволяет эффективно масштабировать вычислительные мощности. Общий объем параметров Kimi K3 достигает 2,8 триллиона, что почти в три раза превышает показатели предыдущей версии K2.5. Использование MoE-архитектуры позволяет активировать только необходимые части нейросети для выполнения конкретных задач, оптимизируя потребление ресурсов при сохранении высокой производительности.
Ключевой особенностью модели является поддержка внушительного контекстного окна размером в 1 миллион токенов. Это позволяет системе обрабатывать и анализировать сверхдлинные документы, целые кодовые базы или продолжительные видеоматериалы без потери связности. Кроме того, Kimi K3 обладает продвинутыми способностями к визуальному пониманию, что делает её полноценным мультимодальным ассистентом.
Инфраструктурные инновации и доступность
Одновременно с моделью разработчики представили три критически важные технологии, направленные на упрощение обучения и развертывания систем ИИ:
- MoonEP — специализированная платформа для эффективного распределенного обучения;
- FlashKDA — технология, оптимизирующая передачу данных и работу с памятью;
- AgentEnv — среда для разработки и тестирования автономных интеллектуальных агентов.
Разработчики могут свободно загружать модель для вторичной разработки и коммерческого использования при условии соблюдения положений лицензии Kimi K3. Открытие не только весов, но и методов обучения вместе с базовой системой является редким шагом для моделей такого масштаба.
Значение для индустрии
Выпуск Kimi K3 с открытым исходным кодом рассматривается экспертами как важный шаг в демократизации доступа к технологиям уровня State-of-the-Art (SOTA). Предоставление повторно используемых технических ресурсов сообществу может значительно ускорить инновации в области генеративного ИИ, позволяя сторонним компаниям создавать специализированные решения на базе мощного фундамента. Ожидается, что высокая производительность модели в сочетании с её доступностью создаст серьезную конкуренцию закрытым проприетарным системам на мировом рынке.