Независимый исследователь под псевдонимом maderix провел глубокий анализ и обратный инжиниринг нейронного движка (ANE) в новейшем чипе Apple M4. В ходе работы специалисту удалось обойти стандартный программный фреймворк CoreML и получить прямой доступ к закрытому интерфейсу _ANEClient. Это позволило провести объективные эталонные тесты и выявить существенные расхождения между маркетинговыми показателями компании Apple и реальной производительностью аппаратного обеспечения при выполнении задач машинного обучения.
Разрыв между маркетинговыми TOPS и реальными TFLOPS
Основным выводом исследования стало уточнение вычислительной мощности нейронного процессора. В то время как Apple официально заявляет о производительности в 38 TOPS (триллионов операций в секунду), реальные тесты зафиксировали пиковый показатель на уровне 19 TFLOPS для вычислений с плавающей запятой половинной точности (FP16). Выяснилось, что заявленная цифра 38 была получена путем математического удвоения показателей FP16, однако на практике аппаратное ускорение для формата INT8 не показало ожидаемого прироста — пропускная способность для этих двух форматов оказалась практически идентичной.
Технические особенности архитектуры ANE
В ходе тестирования были выявлены ключевые архитектурные параметры и особенности работы кристалла, которые ранее не разглашались производителем:
- Объем выделенной памяти SRAM на кристалле ANE составляет около 32 МБ.
- Скорость выполнения сверточных операций оказалась в 3 раза выше, чем скорость умножения матриц.
- Пиковая энергоэффективность системы зафиксирована на отметке 6,6 TFLOPS/W.
- Прямое взаимодействие с интерфейсом системы в обход CoreML позволяет увеличить пропускную способность для мелкомасштабных операций в 2–4 раза.
Результаты исследования указывают на то, что Apple использует специфические методы подсчета для достижения высоких маркетинговых показателей, которые не всегда отражают реальную скорость работы в смешанных режимах вычислений.
Перспективы оптимизации нейросетей
Проведенный анализ не только обнажил несоответствие цифр, но и продемонстрировал возможность обучения нейронных сетей непосредственно на чипе M4 с использованием низкоуровневого доступа. Это открывает новые горизонты для разработчиков, стремящихся выжать максимум из архитектуры Apple Silicon, минуя программные ограничения стандартных API.
Данное исследование подчеркивает важность независимого аудита аппаратных решений. Несмотря на «раздутые» маркетинговые показатели, чип M4 остается крайне эффективным решением для задач ИИ, однако для достижения максимальной производительности разработчикам может потребоваться более глубокая оптимизация кода, учитывающая реальные архитектурные лимиты Neural Engine.