MLHelium

mlhelium

헬륨 벡터 지침을 사용한 ML 실험. CMSIS-DSP에서는 사용할 수없는 경우 CMSIS-DSP에 의존하지만이 라이브러리에서 몇 가지 추가 커널을 제공 할 수 있습니다.

새로운 ML 프레임 워크가 아닙니다 . 간단한 네트워크의 경우 CMSIS-DSP로 충분할 수 있지만 더 많은 작업이 필요하다는 것을 보여주는 몇 가지 예일뿐입니다.

이 라이브러리는 모델을 실행하기 위해 최소의 종속성을 요구하기 위해 소규모 네트워크에만 집중하고 있습니다.

완전히 양자화 된 커널 및/또는 Cortex-M에 ARM NPU를 사용해야하는 경우 Micro 및 CMSIS-NN에는 Tensorflow Lite를 사용하십시오.

모델은 C로 작성되어야합니다 (필요한 커널이라고함으로써). Tensorflow 또는 Pytorch의 자동 변환은 제공되지 않습니다.

파이썬에서 가중치를보다 쉽게 ​​내보내고 C에서 사용할 수 있도록 스크립트가 제공됩니다.

라이센스는 다른 Github 리포지토리에서 조정 된 일부 예제를 제외하고 Apache입니다. MIT와 같은 다른 라이센스를 사용할 수 있습니다.

다음은 Cortex-M55의 50MHz의 작은 릴마 비디오입니다.

tinyllama_int8_f32_an552_final.mp4