MLHelium
1.0.0
使用氦矢量說明對ML進行實驗。它依賴於CMSIS-DSP,但是當CMSIS-DSP中不可用時,該庫可能還會提供一些其他內核。
這不是一個新的ML框架。僅一些示例證明,對於簡單的網絡,CMSIS-DSP可能就足夠了(但需要更多的工作)。
該庫僅關注小型網絡,目的是要求最小的依賴項運行模型。
如果您需要完全量化的內核和/或使用ARM NPU作為Cortex-M,請使用Tensorflow Lite進行微型和CMSIS-NN。
該模型必須用C編寫(通過調用所需的內核)。沒有提供Tensorflow或Pytorch的自動轉換。
提供了一個腳本,以使從Python中導出權重並使用C。
許可證是Apache,除了一些已從其他GitHub存儲庫改編的示例,並可能使用其他許可證(例如MIT)。
這是Cortex-M55上50 MHz的Tinyllama的視頻: