MLHelium

Млхейл

Экспериментируйте с ML с использованием инструкций гелия -вектора. Он полагается на CMSIS-DSP, но в этой библиотеке может быть предоставлено несколько дополнительных ядер, если они не доступны в CMSIS-DSP.

Это не новая структура ML. Это всего лишь некоторые примеры, чтобы продемонстрировать, что для простых сетей CMSIS-DSP может быть достаточно (но требует большей работы).

Эта библиотека фокусирует только небольшие сети с целью требовать минимума зависимостей для запуска модели.

Если вам нужны полностью квантованные ядра и/или использование NPU ARM для Cortex-M, используйте TensorFlow Lite для Micro и CMSIS-NN.

Модель должна быть записана в C (вызывая требуемые ядра). Автоматическое преобразование из TensorFlow или Pytorch не предоставляется.

Предоставлен сценарий, чтобы облегчить экспорт веса с питона и использовать их из C.

Лицензия - это Apache, за исключением некоторых примеров, которые были адаптированы из других репозитории GitHub и могут использовать другие лицензии (например, MIT).

Вот видео Tinyllama на 50 МГц на Cortex-M55:

Tinyllama_int8_f32_an552_final.mp4