mmdeploy

영어 | 简体中文

하이라이트

MMDEPLOY 1.X가 릴리스되었으며 OpenMMLAB 2.0의 업스트림 코드베이스에 적합합니다. 버전을 사용할 때 버전을 정렬 하십시오. 기본 브랜치가 master 에서 main 으로 전환되었습니다. MMDEPLOY 0.X ( master )는 더 이상 사용되지 않으며 새로운 기능은 향후 MMDEPLOY 1.X ( main )에만 추가됩니다.

mmdeploy	mmengine	MMCV	MMDET	기타
0.xy	-	<= 1.xy	<= 2.xy	0.xy
1.xy	0.xy	2.xy	3.xy	1.xy

Deploee는 Onnx, NCNN, TRT 및 OpenVino 형식에서 2,300 개 이상의 AI 모델을 제공합니다. Deploee는 실제 하드웨어 장치의 내장 목록을 특징으로하여 사용자는 프로파일 링 목적으로 토치 모델을 대상 추론 형식으로 변환 할 수 있습니다.

소개

MMDEPLOY는 오픈 소스 딥 러닝 모델 배포 도구 세트입니다. OpenMMLAB 프로젝트의 일부입니다.

주요 기능

OpenMMLAB 모델을 완전히 지원합니다

현재 지원되는 코드베이스 및 모델은 다음과 같습니다.

• mmpretrain
• MMDET
• MMSEG
• mmagic
• mmocr
• mmpose
• mmdet3d
• mmrotate
• mmaction2

다중 추론 뒷받침을 사용할 수 있습니다

지원되는 장치-플랫폼-인테이션 백 매트릭스는 다음으로 제시되며 더 많은 양성이 가능합니다.

벤치 마크는 여기에서 찾을 수 있습니다

장치 / 플랫폼	리눅스	창	마코스	기계적 인조 인간
x86_64 CPU	onnxruntime pplnn NCNN Libtorch OpenVino TVM	onnxruntime OpenVino NCNN	-	-
팔 CPU	NCNN	-	-	NCNN
RISC-V	NCNN	-	-	-
nvidia GPU	onnxruntime Tensorrt Libtorch pplnn	onnxruntime Tensorrt	-	-
nvidia 제트슨	Tensorrt	-	-	-
화웨이 Ascend310	칸	-	-	-
록 치프	rknn	-	-	-
Apple M1	-	-	Coreml	-
아드레노 GPU	-	-	-	snpe NCNN
육각형 DSP	-	-	-	snpe

효율적이고 확장 가능한 C/C ++ SDK 프레임 워크

SDK의 모든 종류의 모듈은 이미지 처리를위한 Transform , Net 추론을위한 네트워크, 후 처리 용 Module 등과 같은 확장 될 수 있습니다.

선적 서류 비치

mmdeploy의 기본 사용에 대해서는 gettarted를 읽으십시오. 우리는 또한 tutoials에 대해 다음을 제공합니다.

• 짓다
  • Docker에서 빌드하십시오
  • 스크립트에서 빌드하십시오
  • Linux를위한 빌드
  • MacOS를위한 빌드
  • Win10을위한 빌드
  • 안드로이드를위한 빌드
  • Jetson을위한 빌드
  • SNPE를위한 빌드
  • Aarch64의 크로스 빌드
• 사용자 안내서
  • 모델을 변환하는 방법
  • 구성을 작성하는 방법
  • 프로필 모델
  • 모델을 정량화하는 방법
  • 유용한 도구
• 개발자 가이드
  • 건축학
  • 새로운 모델을 지원하는 방법
  • 새로운 백엔드를 지원하는 방법
  • 분할 모델
  • 다시 작성된 모델을 테스트하는 방법
  • 백엔드 작전을 테스트하는 방법
  • 회귀 테스트 방법
• 맞춤형 백엔드 작전
  • NCNN
  • onnxruntime
  • Tensorrt
• FAQ
• 기여

벤치 마크 및 모델 동물원

여기에서 지원되는 모델과 벤치 마크에서 성능을 찾을 수 있습니다.

기여

MMDEPLOY에 대한 모든 기여에 감사드립니다. 기고 가이드 라인은 Contributing.md를 참조하십시오.

승인

MMDEPLOY에 기여한 다음 팀에게 진심으로 감사드립니다.

• OpenPpl
• OpenVino
• NCNN

소환

이 프로젝트가 귀하의 연구에 유용하다고 생각되면 다음을 고려하십시오.

 @misc { =mmdeploy ,
    title = { OpenMMLab's Model Deployment Toolbox. } ,
    author = { MMDeploy Contributors } ,
    howpublished = { url{https://github.com/open-mmlab/mmdeploy} } ,
    year = { 2021 }
}

특허

이 프로젝트는 Apache 2.0 라이센스에 따라 릴리스됩니다.

OpenMMLab의 프로젝트

• Mmengine : 딥 러닝 모델 교육을위한 OpenMMLAB 기초 라이브러리.
• MMCV : 컴퓨터 비전을위한 OpenMMLAB 기초 라이브러리.
• MMPRETRAIN : OpenMMLAB 사전 훈련 도구 상자 및 벤치 마크.
• MMAGIC : MM 실험실을 열고, vvanced , g engative 및 i ntellignent c reation 도구 상자를 엽니 다.
• MMDetection : OpenMMLAB 감지 도구 상자 및 벤치 마크.
• mmdetection3d : 일반 3D 객체 감지를위한 OpenMMLab의 차세대 플랫폼.
• MMYOLO : OpenMMLAB YOLO 시리즈 도구 상자 및 벤치 마크
• MMROTATE : OpenMMLAB 회전 된 객체 감지 도구 상자 및 벤치 마크.
• MMTracking : OpenMMLAB 비디오 인식 도구 상자 및 벤치 마크.
• MMSEMENTATION : OpenMMLAB 시맨틱 세분화 도구 상자 및 벤치 마크.
• mmocr : OpenMMLAB 텍스트 감지, 인식 및 도구 상자 이해.
• MMPES : OpenMMLAB 포즈 추정 도구 상자 및 벤치 마크.
• MMHUMAN3D : OpenMMLAB 3D 휴먼 파라 메트릭 모델 도구 상자 및 벤치 마크.
• MMFEWSHOT : OpenMMLAB MEWSHOT 학습 도구 상자 및 벤치 마크.
• MMACTION2 : OpenMMLAB의 차세대 액션 이해 도구 상자 및 벤치 마크.
• MMFLOW : OpenMMLAB 광학 흐름 도구 상자 및 벤치 마크.
• MMDEPLOY : OpenMMLAB 모델 배포 프레임 워크.
• MMRAZOR : OpenMMLAB 모델 압축 도구 상자 및 벤치 마크.
• MIM : MIM은 OpenMMLAB 패키지를 설치합니다.
• 놀이터 : OpenMMLab에 구축 된 놀라운 프로젝트를 수집하고 전시하기위한 중앙 허브.