EdgeML

A biblioteca de aprendizado de máquina de borda

Este repositório fornece código para algoritmos de aprendizado de máquina para dispositivos de borda desenvolvidos na Microsoft Research India.

Os modelos de aprendizado de máquina para dispositivos de borda precisam ter uma pequena pegada em termos de armazenamento, latência de previsão e energia. Uma instância de onde esses modelos são desejáveis ​​são os dispositivos e sensores de escolaridade de recursos na configuração da Internet das Coisas (IoT). Fazer previsões em tempo real localmente em dispositivos IoT sem se conectar à nuvem requer modelos que se encaixam em alguns Kilobytes.

Conteúdo

Algoritmos que brilham nesse cenário em termos de tamanho e computação do modelo, a saber:

• Bonsai : Classificador de árvore não linear forte e superficial.
• Proton : Classificador de vizinhos K-Deleest Basey Type (K NN ) baseado em proto .
• EMI-RNN : Rotina de treinamento para recuperar a assinatura crítica de dados de séries temporais para previsões de RNN mais rápidas e precisas.
• RNN raso : uma meta-arquitetura para o treinamento de RNNs que podem ser aplicados ao streaming de dados.
• FASTRNN & FASTGRNN - FASTCELLS : F AST, uma tabela CCURT, S e células RNN ( G ATED ) .
• DROCC : DEEP R OBSTO O NE -CASS CASSFIACIONAÇÃO PARA TREINAR DETETORES ROBUSTOS DE ANOMALIA.
• RNNPOOL : Um operador de poolamento não linear eficiente para inferência restrita à RAM.

Esses algoritmos podem treinar modelos para problemas clássicos de aprendizagem supervisionados com requisitos de memória que são ordens de magnitude inferiores aos outros algoritmos ML modernos. Os modelos treinados podem ser carregados em dispositivos de borda, como dispositivos/sensores de IoT, e usados ​​para fazer previsões rápidas e precisas completamente offline.

Uma ferramenta que adapta os modelos treinados por algoritmos acima a serem inferidos pela aritmética do ponto fixo.

• Semente : Ponto flutuante para ferramenta de quantização de ponto fixo.

Aplicações demonstrando USecases desses algoritmos:

• GesturePod : oleoduto de reconhecimento de gestos para microcontroladores.
• MSC-RNN : RNN em cascata em várias escalas para analisar dados de radar.

Organização

• O diretório tf contém o pacote edgeml_tf que especifica essas arquiteturas no TensorFlow, e examples/tf contêm rotinas de treinamento de amostra para esses algoritmos.
• O diretório pytorch contém o pacote edgeml_pytorch , que especifica essas arquiteturas em Pytorch, e examples/pytorch contém rotinas de treinamento de amostra para esses algoritmos.
• O diretório cpp possui código de treinamento e inferência para os algoritmos de Bonsai e ProtoNN em C ++.
• O diretório applications possui código/demonstração de aplicativos dos algoritmos EDgeml.
• O diretório tools/SeeDot possui a ferramenta de quantização para gerar código de inferência de ponto fixo.
• O diretório c_reference contém o código de inferência (ponto flutuante ou quantizado) para vários algoritmos em C.

Consulte as instruções de instalação/execução nas páginas de leitura nesses diretórios.

Detalhes e páginas de projeto

Para detalhes, consulte a página do projeto, a página de pesquisa da Microsoft, as publicações do ICML '17 sobre os algoritmos de Bonsai e Proton. RNNs, a publicação do ICML '20 no DROCC e a publicação do Neurips '20 no RNNPOOL.

Também consulte o projeto ELL, que pode fornecer binários otimizados para alguns dos modelos ONNX treinados por esta biblioteca.

Colaboradores:

Código para algoritmos, aplicativos e ferramentas contribuídos por:

• Don Dennis
• Yash Gaurkar
• Sridhar Gopinath
• Sachin Goyal
• Chirag Gupta
• Moksh Jain
• Shikhar Jaiswal
• Ashish Kumar
• Aditya Kusupati
• Chris Lovett
• Shishir Patil
• Oindrila Saha
• Harsha Vardhan Simhadri

Colaboradores deste projeto. Novos colaboradores são bem -vindos.

Por favor, envie -nos seus comentários, críticas e perguntas.

Se você usar o software desta biblioteca em seu trabalho, use a entrada do Bibtex abaixo para citação.

 @misc{edgeml04,
   author = {{Dennis, Don Kurian and Gaurkar, Yash and Gopinath, Sridhar and Goyal, Sachin 
              and Gupta, Chirag and Jain, Moksh and Jaiswal, Shikhar and Kumar, Ashish and
              Kusupati, Aditya and  Lovett, Chris and Patil, Shishir G and Saha, Oindrila and
              Simhadri, Harsha Vardhan}},
   title = {{EdgeML: Machine Learning for resource-constrained edge devices}},
   url = {https://github.com/Microsoft/EdgeML},
   version = {0.4},
}

Código de Conduta Open Microsoft Open Este projeto adotou o

Microsoft Open Source Código de Conduta. Para obter mais informações, consulte o Código de Conduta Perguntas frequentes ou entre em contato com [email protected] com quaisquer perguntas ou comentários adicionais.