MMdnn

Mmdnn

MMDNN-это всеобъемлющий и кросс-рамный инструмент для преобразования, визуализации и диагностики моделей глубокого обучения (DL). «MM» означает управление моделями, а «DNN» - аббревиатура глубокой нейронной сети.

Основные особенности включают:

• Конверсия модели

  • Мы реализуем универсальный преобразователь для преобразования моделей DL между рамками, что означает, что вы можете обучить модель с одной структурой и развернуть ее с другой.

• Модель переподготовки

  • Во время преобразования модели мы генерируем некоторые фрагменты кода для упрощения более позднего переподготовки или вывода.

• Поиск и визуализация модели

  • Мы предоставляем модельную коллекцию, чтобы помочь вам найти несколько популярных моделей.
  • Мы предоставляем модельный визуализатор для более интуитивно отображать сетевую архитектуру.

• Модель развертывания

  • Мы предоставляем несколько рекомендаций, которые помогут вам развернуть модели DL на другую аппаратную платформу.

    • Android
    • Порция

  • Мы предоставляем руководство, которое поможет вам ускорить вывод с помощью Tensorrt.

    • Тенсорт

Связанные проекты

Нацеливание на открытость и продвижение современных технологий, Microsoft Research (MSR) и Microsoft Software Technology Center (STC) также выпустили несколько других проектов с открытым исходным кодом:

• OpenPAI: платформа с открытым исходным кодом, которая предоставляет полную обучение модели ИИ и управление ресурсами, ее легко расширить и поддерживает локальные, облачные и гибридные среды в различных масштабах.
• FrameworkController: контроллер POD с открытым исходным кодом Kubernetes, который организует все виды приложений на Kubernetes одним контроллером.
• NNI: Легкий, но мощный инструментарий, который помогает пользователям автоматизировать инженерные функции, поиск нейронной архитектуры, настройку гиперпараметров и сжатие модели.
• NeuroNblocks: инструментарий для моделирования глубокого обучения NLP, который помогает инженерам создавать такие модели DNN, как игра LEGO. Основная цель этого инструментария - минимизировать развитие затрат на строительство модели NLP Deep Neural Network, включая как этапы обучения, так и стадии вывода.
• SPTAG: Космическое место и график (SPTAG) - это библиотека с открытым исходным кодом для крупномасштабного сценария ближайшего поиска ближнего соседа.

Мы призываем исследователей, разработчиков и студентов использовать эти проекты, чтобы повысить их производительность ИИ / глубокого обучения.

Установка

Установить вручную

Вы можете получить стабильную версию Mmdnn от

pip install mmdnn

И обязательно установил Python, или вы можете попробовать новейшую версию

pip install -U git+https://github.com/Microsoft/MMdnn.git@master

Установить с изображением Docker

MMDNN предоставляет изображение Docker, которое пакеты MMDNN и фреймворки глубокого обучения, которые мы поддерживаем, а также другие зависимости. Вы можете легко попробовать изображение со следующими шагами:

1. Установить Docker Community Edition (CE)

   Узнайте больше о том, как установить Docker

2. Потяните изображение Mmdnn Docker

   docker pull mmdnn/mmdnn:cpu.small

3. Запустить изображение в интерактивном режиме

   docker run -it mmdnn/mmdnn:cpu.small

Функции

Конверсия модели

В отрасли и академиях существует ряд существующих рамок для разработчиков и исследователей для разработки модели, где каждая структура имеет свое собственное определение структуры сети и формат модели сохранения. Разрывы между рамками препятствуют взаимодействию моделей.

Мы предоставляем конвертер модели, чтобы помочь разработчикам преобразовать модели между рамками через промежуточный формат представления.

Фреймворки поддержки

[Примечание] Вы можете щелкнуть ссылки, чтобы получить подробную Readme каждой структуры.

• Кофе
• Microsoft Cognitive Toolkit (CNTK)
• Коремл
• Керас
• MXNET
• Onnx (только пункт назначения)
• Пирог
• Tensorflow (экспериментальный) (мы настоятельно рекомендуем вам сначала прочитать Readme of Tensorflow)
• Darknet (только источник, эксперимент)

Протестированные модели

Конверсия модели между поддерживаемыми в настоящее время фреймворками проверяется на некоторых моделях ImageNet .

Модели	Кофе	Керас	Tensorflow	Cntk	MXNET	Пирог	Коремл	Onnx
VGG 19	√	√	√	√	√	√	√	√
Начало V1	√	√	√	√	√	√	√	√
Начало V3	√	√	√	√	√	√	√	√
Начало V4	√	√	√	о	√	√	√	√
Resnet v1	×	√	√	о	√	√	√	√
Resnet v2	√	√	√	√	√	√	√	√
Mobilenet v1	×	√	√	о	√	√	√	√
Mobilenet v2	×	√	√	о	√	√	√	√
Xception	√	√	√	о	×	√	√	√
Squeezenet	√	√	√	√	√	√	√	√
Денсенет	√	√	√	√	√	√	√	√
Наснет	х	√	√	о	√	√	√	х
Resnext	√	√	√	√	√	√	√	√
VOC FCN			√	√
Yolo3		√		√

Использование

Одна команда для достижения конверсии. Использование Tensorflow Resnet V2 152 для Pytorch в качестве нашего примера.

$ mmdownload -f tensorflow -n resnet_v2_152 -o ./
$ mmconvert -sf tensorflow -in imagenet_resnet_v2_152.ckpt.meta -iw imagenet_resnet_v2_152.ckpt --dstNodeName MMdnn_Output -df pytorch -om tf_resnet_to_pth.pth

Сделанный.

Продолжительные рамки

• TORCH7 (помощь
• Цепочка (помощь разыскиваюсь)

Продолжительные модели

• Обнаружение лица
• Семантическая сегментация
• Перенос стиля изображения
• Обнаружение объекта
• Rnn

---

Визуализация модели

Мы предоставляем локальный визуализатор для отображения сетевой архитектуры модели глубокого обучения. Пожалуйста, обратитесь к инструкции.

---

Примеры

Официальный учебник

• Керас «Начало v3» в CNTK и связанный с этим.

• Тензорфлоу тонкая модель "resnet v2 152" в pytorch

• MXNET MODEL "LRESNET50E-IR" TONSORFLOW и связанная с этим проблему

Примеры пользователей

• MXNET "RESNET-152-11K"

• Еще один пример MXNET "RESNET-152-11K" TO PYTORCH

• MXNET "Resnext" в керас

• Tensorflow "resnet-101" в pytorch

• Tensorflow "MNIST MLP Model" TO CNTK

• Tensorflow "entception_v3" в mxnet

• Caffe "voc-fcn" to tensorflow

• Caffe "Alexnet" to Tensorflow

• Caffe "entception_v4" to tensorflow

• Caffe "vgg16_sod" в tensorflow

• Caffe "Squeezenet v1.1" to cntk

---

Внося

Большинство взносов требуют, чтобы вы согласились с лицензионным соглашением о участнике (CLA), заявив, что вы имеете право и фактически, предоставите нам права на использование вашего вклада. Для получения подробной информации посетите https://cla.microsoft.com.

Когда вы отправляете запрос на привлечение, CLA-бот автоматически определит, нужно ли вам предоставить CLA и должным образом украсить PR (например, метка, комментарий). Просто следуйте инструкциям, предоставленным ботом. Вам нужно будет сделать это только один раз во всех репо, используя наш CLA.

Этот проект принял код поведения с открытым исходным кодом Microsoft. Для получения дополнительной информации см. Кодекс поведения FAQ или свяжитесь с [email protected] с любыми дополнительными вопросами или комментариями.

Промежуточное представление

Промежуточное представление хранит сетевую архитектуру в бинарных и предварительно обученных весах Protobuf в нативном формате Numpy .

[Примечание!] В настоящее время данные IR Weights находятся в формате NHWC (канал последний).

Подробности в Ops.txt и Graph.proto. Новые операторы и любые комментарии приветствуются.

Рамки

Мы работаем над преобразованием и визуализацией других фреймворков, таких как Pytorch, Coreml и так далее. Мы расследуем больше операторов, связанных с RNN. Любые вклад и предложения приветствуются! Подробная информация в руководстве по вкладу.

Авторы

Yu Liu (Peking University): разработчик проекта и сопровождающий

Ченг Чен (Microsoft Research Asia): Caffe, CNTK, Coreml Emitter, Keras, Mxnet, Tensorflow

Jiahao Yao (Peking University): Coreml, Mxnet Emitter, Pytorch Parser; Домашняя страница

Ру Чжан (Китайская академия наук): Эмиттер Coreml, Darknet Parser, Keras, Tensorflow Frozen Parser; Модели YOLO и SSD; Тесты

Юхао Чжоу (Университет Шанхай Цзяо Тонг): MXNET

Тинтинг Цинь (Microsoft Research Asia): излучение кофы

Тонг Чжан (Microsoft): Onnx Emitter

Цяньвен Ван (Гонконгский университет науки и техники): визуализация

Благодарности

Благодаря Saumitro Dasgupta, первоначальный код Caffe -> IR преобразование является ссылками на его проект Caffe -Tensorflow.

Лицензия

Лицензирован по лицензии MIT.