MMdnn

Mmdnn

MMDNN est un outil complet et transframe pour convertir, visualiser et diagnostiquer les modèles d'apprentissage en profondeur (DL). Le "MM" signifie Model Management, et "DNN" est l'acronyme de Deep Neural Network.

Les principales caractéristiques comprennent:

• Conversion de modèle

  • Nous implémentons un convertisseur universel pour convertir les modèles DL entre les cadres, ce qui signifie que vous pouvez former un modèle avec un cadre et le déployer avec un autre.

• Recyclage du modèle

  • Lors de la conversion du modèle, nous générons des extraits de code pour simplifier le recyclage ou l'inférence ultérieurement.

• Recherche et visualisation du modèle

  • Nous fournissons une collection de modèles pour vous aider à trouver des modèles populaires.
  • Nous fournissons un visualiseur de modèle pour afficher plus intuitivement l'architecture réseau.

• Déploiement de modèle

  • Nous fournissons quelques directives pour vous aider à déployer des modèles DL à une autre plate-forme matérielle.

    • Androïde
    • Portion

  • Nous fournissons un guide pour vous aider à accélérer l'inférence avec Tensorrt.

    • Tensorrt

Projets connexes

Cibler sur l'ouverture et l'avancement de la technologie de pointe, Microsoft Research (MSR) et Microsoft Software Technology Center (STC) avaient également publié quelques autres projets open source:

• OpenPAI: Une plate-forme open source qui offre des capacités complètes de formation sur les modèles d'IA et de gestion des ressources, il est facile à étendre et prend en charge les environnements sur site, cloud et hybrides à diverses échelles.
• FrameworkController: un contrôleur de pod kubernetes à usage général open source qui orchestra toutes sortes d'applications sur Kubernetes par un seul contrôleur.
• NNI: une boîte à outils légère mais puissante pour aider les utilisateurs à automatiser l'ingénierie des fonctionnalités, la recherche d'architecture neuronale, le réglage de l'hyperparamètre et la compression du modèle.
• NeuronBlocks: une boîte à outils de modélisation de l'apprentissage en profondeur NLP qui aide les ingénieurs à construire des modèles DNN comme jouer à LEGO. L'objectif principal de cette boîte à outils est de minimiser les coûts de développement de la création de modèles de réseaux neuronaux profonds PNL, y compris les étapes de formation et d'inférence.
• SPTAG: SPACE PARTITION TENET AND GRAPH (SPTAG) est une bibliothèque open source pour le vecteur à grande échelle approximatif le scénario de recherche du voisin le plus proche.

Nous encourageons les chercheurs, les développeurs et les étudiants à tirer parti de ces projets pour augmenter leur productivité de l'IA / Deep Learning.

Installation

Installer manuellement

Vous pouvez obtenir une version stable de MMDNN par

pip install mmdnn

Et assurez-vous d'installer Python ou vous pouvez essayer la dernière version par

pip install -U git+https://github.com/Microsoft/MMdnn.git@master

Installer avec l'image Docker

MMDNN fournit une image Docker, qui emballe les cadres MMDNN et Deep Learning que nous soutenons ainsi que d'autres dépendances. Vous pouvez facilement essayer l'image avec les étapes suivantes:

1. Installer Docker Community Edition (CE)

   En savoir plus sur la façon d'installer Docker

2. Tirez l'image mmdnn docker

   docker pull mmdnn/mmdnn:cpu.small

3. Exécutez l'image dans un mode interactif

   docker run -it mmdnn/mmdnn:cpu.small

Caractéristiques

Conversion de modèle

Dans l'ensemble de l'industrie et du monde universitaire, il existe un certain nombre de cadres existants disponibles pour les développeurs et les chercheurs pour concevoir un modèle, où chaque cadre a sa propre définition de structure de réseau et le format de modèle de sauvegarde. Les lacunes entre les cadres entravent l'interopération des modèles.

Nous fournissons un convertisseur de modèles pour aider les développeurs à convertir des modèles entre les cadres via un format de représentation intermédiaire.

Frameworks de support

[Remarque] Vous pouvez cliquer sur les liens pour obtenir une lecture détaillée de chaque cadre.

• Caffe
• Microsoft Cognitive Toolkit (CNTK)
• Coreml
• Kéras
• Mxnet
• Onnx (destination uniquement)
• Pytorch
• TensorFlow (expérimental) (nous vous recommandons fortement de lire la lecture de TensorFlow en premier)
• DarkNet (source uniquement, expérience)

Modèles testés

La conversion du modèle entre les cadres actuellement pris en charge est testée sur certains modèles ImageNet .

Modèles	Caffe	Kéras	Tensorflow	Cntk	Mxnet	Pytorch	Coreml	Onnx
VGG 19	√	√	√	√	√	√	√	√
Inception v1	√	√	√	√	√	√	√	√
Inception v3	√	√	√	√	√	√	√	√
Inception v4	√	√	√	o	√	√	√	√
Resnet v1	×	√	√	o	√	√	√	√
Resnet v2	√	√	√	√	√	√	√	√
Mobilenet v1	×	√	√	o	√	√	√	√
Mobilenet v2	×	√	√	o	√	√	√	√
Xception	√	√	√	o	×	√	√	√
Serrer	√	√	√	√	√	√	√	√
Denset	√	√	√	√	√	√	√	√
Nasnet	x	√	√	o	√	√	√	x
Resnext	√	√	√	√	√	√	√	√
voc fcn			√	√
Yolo3		√		√

Usage

Une commande pour réaliser la conversion. Utilisation de TensorFlow Resnet V2 152 à Pytorch comme exemple.

$ mmdownload -f tensorflow -n resnet_v2_152 -o ./
$ mmconvert -sf tensorflow -in imagenet_resnet_v2_152.ckpt.meta -iw imagenet_resnet_v2_152.ckpt --dstNodeName MMdnn_Output -df pytorch -om tf_resnet_to_pth.pth

Fait.

Cadres en cours

• Torch7 (aide recherchée)
• Chainer (aide recherchée)

Modèles en cours

• Détection du visage
• Segmentation sémantique
• Transfert de style d'image
• Détection d'objet
• RNN

---

Visualisation du modèle

Nous fournissons un visualiseur local pour afficher l'architecture réseau d'un modèle d'apprentissage en profondeur. Veuillez vous référer à l'instruction.

---

Exemples

Tutoriel officiel

• Keras "Inception V3" à CNTK et problème connexe

• TensorFlow Slim Modèle "Resnet V2 152" à Pytorch

• Modèle MXNET "LRESNET50E-IR" à TensorFlow et à un problème connexe

Exemples des utilisateurs

• MXNET "RESNET-152-11K" à Pytorch

• Un autre exemple de MXNET "RESNET-152-11K" à Pytorch

• MXNET "Resnext" à Keras

• TensorFlow "Resnet-101" à Pytorch

• TensorFlow "Mnist MLP Model" à CNTK

• TensorFlow "INCEPTION_V3" à MXNET

• Caffe "Voc-fcn" à Tensorflow

• Caffe "Alexnet" à TensorFlow

• Caffe "Inception_V4" à Tensorflow

• Caffe "VGG16_SOD" à TensorFlow

• Caffe "Squeezenet v1.1" à CNTK

---

Contributif

La plupart des contributions vous obligent à accepter un contrat de licence de contributeur (CLA) déclarant que vous avez le droit de faire et en réellement, accordez-nous les droits d'utilisation de votre contribution. Pour plus de détails, visitez https://cla.microsoft.com.

Lorsque vous soumettez une demande de traction, un CLA-BOT déterminera automatiquement si vous devez fournir un CLA et décorer le PR de manière appropriée (par exemple, étiqueter, commentaire). Suivez simplement les instructions fournies par le bot. Vous n'aurez besoin de le faire qu'une seule fois sur tous les dépositions en utilisant notre CLA.

Ce projet a adopté le code de conduite open source Microsoft. Pour plus d'informations, consultez le code de conduite FAQ ou contactez [email protected] avec toute question ou commentaire supplémentaire.

Représentation intermédiaire

La représentation intermédiaire stocke l' architecture du réseau dans les poids binaires et pré-formés Protobuf au format natif Numpy .

[Remarque!] Actuellement, les données de poids IR se trouvent au format NHWC (canal dernier).

Les détails sont dans Ops.txt et Graph.proto. Les nouveaux opérateurs et tous les commentaires sont les bienvenus.

Frameworks

Nous travaillons sur d'autres cadres de conversion et de visualisation, tels que Pytorch, Coreml, etc. Nous enquêtons sur plus d'opérateurs liés à RNN. Toutes les contributions et suggestions sont les bienvenues! Détails dans les directives de contribution.

Auteurs

Yu Liu (Université de Pékin): développeur de projet et mainteneur

Cheng Chen (Microsoft Research Asia): Caffe, CNTK, Coreml Emitte, Keras, Mxnet, Tensorflow

Jahahao Yao (Université de Pékin): Coreml, émetteur MXNET, analyseur Pytorch; Page d'accueil

Ru Zhang (Academy des sciences chinoises): Coreml Emitte, analyser Darknet, Keras, analyser graphique congelé Tensorflow; Modèles YOLO et SSD; Tests

Yuhao Zhou (Université Shanghai Jiao Tong): MXNET

Tingting Qin (Microsoft Research Asia): Caffe Emitte

Tong Zhan (Microsoft): émetteur Onnx

Qianwen Wang (Université des sciences et technologies de Hong Kong): Visualisation

Remerciements

Grâce à Saumitro Dasgupta, le code initial de Caffe -> IR Converting est des références à son projet Caffe-TensorFlow.

Licence

Licencié sous la licence du MIT.