mmdeploy

Английский | 简体中文

Основные моменты

Mmdeploy 1.x был выпущен, который адаптирован к Upstream Codebases от OpenMMLAB 2.0. Пожалуйста, выровняйте версию при использовании. Ветвь по умолчанию была переключена на main от master . Mmdeploy 0.x ( master ) будет устареть, и новые функции будут добавлены только в Mmdeploy 1.x ( main ) в будущем.

Mmdeploy	мменгин	MMCV	Mmdet	другие
0.xy	-	<= 1.xy	<= 2.xy	0.xy
1.xy	0.xy	2.xy	3.xy	1.xy

Deploee предлагает более 2300 моделей AI в форматах ONNX, NCNN, TRT и OpenVino. Создавая встроенный список реальных аппаратных устройств, Deploee позволяет пользователям конвертировать модели факелов в любой целевой формат вывода для профилирования.

Введение

Mmdeploy-это набор инструментов для развертывания модели с открытым исходным кодом. Это часть проекта OpenMMLAB.

Основные особенности

Полностью поддержать модели OpenMMLAB

Поддерживаемые в настоящее время кодовые базы и модели следующие, и больше будет включено в будущее

• MMPretrain
• Mmdet
• ммсег
• магич
• марок
• Mmpose
• mmdet3d
• ммротат
• MMAction2

Доступны многочисленные бэкэнды вывода

Поддерживаемая матрица устройства-платформенного инференции, представлена следующим образом, и больше будет совместимо.

Отсюда можно найти эталон

Устройство / Платформа	Linux	Окна	macOS	Android
x86_64 Процессор	Onnxruntime Pplnn ncnn Либторх OpenVino ТВМ	Onnxruntime OpenVino ncnn	-	-
РУКА Процессор	ncnn	-	-	ncnn
RISC-V	ncnn	-	-	-
Нвидия Графический процессор	Onnxruntime Тенсорт Либторх Pplnn	Onnxruntime Тенсорт	-	-
Нвидия Джетсон	Тенсорт	-	-	-
Huawei Ascend310	Канн	-	-	-
Rockchip	Rknn	-	-	-
Apple M1	-	-	Коремл	-
Адрено Графический процессор	-	-	-	SNPE ncnn
Шестигранник DSP	-	-	-	SNPE

Эффективная и масштабируемая структура S/C ++ SDK

Все виды модулей в SDK могут быть расширены, такие как Transform для обработки изображений, Net для вывода нейронной сети, Module для постобработки и т. Д.

Документация

Пожалуйста, прочитайте get get_started для основного использования Mmdeploy. Мы также предоставляем воспаление о:

• Строить
  • Построить из Docker
  • Построить из сценария
  • Построить для Linux
  • Построить для macOS
  • Построить для Win10
  • Построить для Android
  • Построить для Джетсона
  • Строить для SNPE
  • Крест сборка для Aarch64
• Руководство пользователя
  • Как преобразовать модель
  • Как написать конфигурацию
  • Как профилировать модель
  • Как квантовать модель
  • Полезные инструменты
• Руководство разработчика
  • Архитектура
  • Как поддерживать новые модели
  • Как поддержать новые бэкэнды
  • Как разбить модель
  • Как проверить переписанную модель
  • Как проверить бэкэнд Ops
  • Как сделать регрессионный тест
• Пользовательский бэкэнд Ops
  • ncnn
  • Onnxruntime
  • Тенсорт
• Часто задаваемые вопросы
• Внося

Эталонный и модельный зоопарк

Вы можете найти поддерживаемые модели отсюда и их производительность в тесте.

Внося

Мы ценим все вклад в Mmdeploy. Пожалуйста, обратитесь к Anforming.md для руководства.

Подтверждение

Мы хотели бы искренне поблагодарить следующие команды за их вклад в Mmdeploy:

• Openppl
• OpenVino
• ncnn

Цитирование

Если вы найдете этот проект полезным в своем исследовании, рассмотрите возможность ссылаться:

 @misc { =mmdeploy ,
    title = { OpenMMLab's Model Deployment Toolbox. } ,
    author = { MMDeploy Contributors } ,
    howpublished = { url{https://github.com/open-mmlab/mmdeploy} } ,
    year = { 2021 }
}

Лицензия

Этот проект выпущен по лицензии Apache 2.0.

Проекты в OpenMMLAB

• Mmengine: OpenMMLAB Фондовая библиотека для обучения моделей глубокого обучения.
• MMCV: OpenMMLAB Фондовая библиотека для компьютерного зрения.
• MMPRETRAIN: OpenMMLAB Pre Training Toolbox и Clackmark.
• MMAGIC: Open MM Lab A Dvanced, G Enerative и Intelligent C Refation Toolbox.
• MMDETECTION: OpenMMLAB DETACTION Toolbox и Clackmark.
• MMDetection3d: платформа следующего поколения OpenMMLAB для общего обнаружения 3D объекта.
• MMYOLO: OpenMMLAB YOLO Series Series Toolbox и эталон
• MMROTATE: OpenMMLAB ROPTED DETACTION DETACTION DETACTION BOXE и CLAILMARK.
• MMTracking: OpenMMLAB Video Perpection Toolbox и эталон.
• MMSEGMATION: OpenMMLAB SEMANTIC SEGMATION Toolbox и Clackmark.
• MMOCR: Обнаружение текста OpenMMLAB, распознавание и понимание инструментов.
• Mmpose: OpenMMLAB POSE OSTACTOR Toolbox и Clackmark.
• MMHUMAN3D: OpenMMLAB 3D Параметрическая модель Human Model Box и эталон.
• MMFewShot: OpenMMLAB MALESHOT LEARVING Toolbox и Clackmark.
• MMAction2: OpenMMLAB по вопросам действия «Понимание инструментов и теста».
• MMFLOW: OpenMMLAB OPTICAL FLOW Toolbox и эталон.
• Mmdeploy: OpenMMLAB Model Framework.
• MMRazor: набор инструментов для сжатия модели OpenMMLAB и эталон.
• MIM: MIM устанавливает пакеты OpenMMLAB.
• Игровая площадка: центральный центр для сбора и демонстрации удивительных проектов, построенных на OpenMMLAB.