mmdeploy

Inglés | 简体中文

Reflejos

Se ha lanzado el MMDePloy 1.x, que se adapta a las bases de código aguas arriba de OpenMMLab 2.0. Alinee la versión cuando la use. La rama predeterminada se ha cambiado a main de master . MMDePloy 0.x ( master ) estará en desuso y solo se agregarán nuevas características a MMDePloy 1.x ( main ) en el futuro.

mmdeplo	motor mm	MMCV	mmdet	otros
0.xy	-	<= 1.xy	<= 2.xy	0.xy
1.xy	0.xy	2.xy	3.xy	1.xy

DePloee ofrece más de 2.300 modelos AI en formatos ONNX, NCNN, TRT y OpenVino. Con una lista incorporada de dispositivos de hardware reales, DePloee permite a los usuarios convertir modelos de antorcha en cualquier formato de inferencia de destino para fines de perfiles.

Introducción

MMDePloy es un conjunto de herramientas de implementación del modelo de aprendizaje profundo de código abierto. Es parte del proyecto OpenMMLab.

Características principales

Soporte totalmente modelos OpenMMLab

Las bases y modelos de código actualmente compatibles son los siguientes, y se incluirán más en el futuro

• refresco de mm
• mmdet
• mmseg
• mmágico
• mmocr
• mmpose
• mmdet3d
• mmrotar
• mmaction2

Backends de inferencia múltiple está disponible

La matriz de retroceso de la plataforma de plataforma compatible se presenta de la siguiente manera, y más será compatible.

El punto de referencia se puede encontrar desde aquí

Dispositivo / Plataforma	Linux	Windows	macosa	Androide
x86_64 UPC	onnxruntime pplnn ncnn Libbtorch Abierto TVM	onnxruntime Abierto ncnn	-	-
BRAZO UPC	ncnn	-	-	ncnn
RISC-V	ncnn	-	-	-
Nvidia GPU	onnxruntime Tensor Libbtorch pplnn	onnxruntime Tensor	-	-
Nvidia Jetson	Tensor	-	-	-
Huawei ascend310	GOLPE LIGERO	-	-	-
Rocoso	Rknn	-	-	-
Apple M1	-	-	Core	-
Adreno GPU	-	-	-	Snpe ncnn
Hexágono DSP	-	-	-	Snpe

Marco SDK C/C ++ eficiente y escalable

Se pueden extender todo tipo de módulos en el SDK, como Transform para el procesamiento de imágenes, Net para la inferencia de la red neuronal, Module para el posprocesamiento, etc.

Documentación

Lea Getting_Starded para el uso básico de MMDePloy. También proporcionamos TUTOIALS sobre:

• Construir
  • Construir desde Docker
  • Construir desde el guión
  • Construir para Linux
  • Construir para macOS
  • Construir para win10
  • Construir para Android
  • Construir para Jetson
  • Construir para snpe
  • Cross Build para Aarch64
• Guía del usuario
  • Cómo convertir el modelo
  • Cómo escribir configuración
  • Cómo perfilar el modelo
  • Cómo cuantificar el modelo
  • Herramientas útiles
• Guía de desarrolladores
  • Arquitectura
  • Cómo admitir nuevos modelos
  • Cómo apoyar los nuevos backends
  • Cómo particionar modelo
  • Cómo probar el modelo reescrito
  • Cómo probar las operaciones de backend
  • Cómo hacer la prueba de regresión
• Ops de backend personalizados
  • ncnn
  • Onnxruntime
  • tensor
• Preguntas frecuentes
• Que contribuye

Zoológico de referencia y modelo

Puede encontrar los modelos compatibles desde aquí y su rendimiento en el punto de referencia.

Que contribuye

Apreciamos todas las contribuciones a MMDeploy. Consulte CONTRIGIARSE.MD para la guía contribuyente.

Reconocimiento

Nos gustaría agradecer sinceramente a los siguientes equipos por sus contribuciones a MMDeploy:

• OpenPPL
• Abierto
• ncnn

Citación

Si encuentra útil este proyecto en su investigación, considere citar:

 @misc { =mmdeploy ,
    title = { OpenMMLab's Model Deployment Toolbox. } ,
    author = { MMDeploy Contributors } ,
    howpublished = { url{https://github.com/open-mmlab/mmdeploy} } ,
    year = { 2021 }
}

Licencia

Este proyecto se publica bajo la licencia Apache 2.0.

Proyectos en OpenMMLab

• MMEngine: OpenMMLab Biblioteca fundamental para capacitar a los modelos de aprendizaje profundo.
• MMCV: OpenMMLab Biblioteca fundamental para la visión por computadora.
• MMPretrain: caja de herramientas de pre-entrenamiento OpenMMLab y punto de referencia.
• MMAGIC: Open MM Lab una caja de herramientas de reacción C Dvanced, G en suero e infantil .
• MMDETECTION: OpenMMLab Detection Toolbox and Benchmark.
• MMDETECTION3D: la plataforma de próxima generación de OpenMMLab para la detección general de objetos 3D.
• Mmyolo: caja de herramientas de la serie OpenMMLab Yolo
• MMROTATE: OpenMMLab Caja de herramientas de detección de objetos rotados y punto de referencia.
• MMTracking: OpenMMLab Video Perception Toolbox y Benchmark.
• MMSegmation: OpenMMLab Semantic Segmation Toolbox y Benchmark.
• MMOCR: OpenMMLab de texto de texto, reconocimiento y comprensión de la caja de herramientas.
• MMPOSE: OpenMMLab Pose Estimation Toolboxbox y Benchmark.
• MMHUMAN3D: OpenMMLAB 3D Modelo de herramientas paramétricas humanas y punto de referencia.
• Mmfewshot: OpenMMLab Smantshot Learning Toolbox and Benchmark.
• MMACTION2: la caja de herramientas de comprensión de acción de próxima generación de OpenMMLAB y el punto de referencia.
• MMFLOW: OpenMMLab Flow Toolbox Box y Benchmark.
• MMDeploy: marco de implementación del modelo OpenMMLab.
• MMRAZOR: caja de herramientas de compresión del modelo OpenMMLab y punto de referencia.
• MIM: MIM instala paquetes OpenMMLab.
• Playground: un centro central para reunir y exhibir proyectos increíbles basados en OpenMMLab.