MLHelium

mlhelium

使用氦矢量说明对ML进行实验。它依赖于CMSIS-DSP，但是当CMSIS-DSP中不可用时，该库可能还会提供一些其他内核。

这不是一个新的ML框架。仅一些示例证明，对于简单的网络，CMSIS-DSP可能就足够了（但需要更多的工作）。

该库仅关注小型网络，目的是要求最小的依赖项运行模型。

如果您需要完全量化的内核和/或使用ARM NPU作为Cortex-M，请使用Tensorflow Lite进行微型和CMSIS-NN。

该模型必须用C编写（通过调用所需的内核）。没有提供Tensorflow或Pytorch的自动转换。

提供了一个脚本，以使从Python中导出权重并使用C。

许可证是Apache，除了一些已从其他GitHub存储库改编的示例，并可能使用其他许可证（例如MIT）。

这是Cortex-M55上50 MHz的Tinyllama的视频：

tinyllama_int8_f32_an552_final.mp4