MMdnn

mmdnn

MMDNN เป็นเครื่องมือที่ครอบคลุมและข้ามกรอบเพื่อแปลงสร้างภาพและวินิจฉัยโมเดลการเรียนรู้ลึก (DL) "MM" หมายถึงการจัดการแบบจำลองและ "DNN" เป็นตัวย่อของเครือข่ายประสาทลึก

คุณสมบัติที่สำคัญ ได้แก่ :

• การแปลงแบบจำลอง

  • เราใช้ตัวแปลงสากลเพื่อแปลงโมเดล DL ระหว่างเฟรมเวิร์กซึ่งหมายความว่าคุณสามารถฝึกอบรมแบบจำลองด้วยเฟรมเวิร์กหนึ่งเฟรมและปรับใช้กับอีกเฟรม

• การฝึกอบรมแบบจำลองใหม่

  • ในระหว่างการแปลงแบบจำลองเราสร้างตัวอย่างโค้ดบางส่วนเพื่อให้ง่ายขึ้นในการฝึกอบรมหรือการอนุมานในภายหลัง

• การค้นหาและการสร้างภาพแบบจำลอง

  • เรามีคอลเลกชันโมเดลเพื่อช่วยให้คุณค้นหารุ่นยอดนิยม
  • เราให้บริการ Model Visualizer เพื่อแสดงสถาปัตยกรรมเครือข่ายอย่างสังหรณ์ใจมากขึ้น

• การปรับใช้แบบจำลอง

  • เราให้แนวทางบางอย่างเพื่อช่วยให้คุณปรับใช้โมเดล DL ไปยังแพลตฟอร์มฮาร์ดแวร์อื่น

    • Android
    • การรับใช้

  • เราให้คำแนะนำเพื่อช่วยคุณเร่งการอนุมานด้วย Tensorrt

    • Tensorrt

โครงการที่เกี่ยวข้อง

การกำหนดเป้าหมายที่เปิดกว้างและพัฒนาเทคโนโลยีล้ำสมัย Microsoft Research (MSR) และ Microsoft Software Technology Center (STC) ได้เปิดตัวโครงการโอเพ่นซอร์สอื่น ๆ อีกไม่กี่โครงการ:

• OpenPai: แพลตฟอร์มโอเพ่นซอร์สที่ให้การฝึกอบรมแบบจำลอง AI และความสามารถในการจัดการทรัพยากรที่สมบูรณ์นั้นเป็นเรื่องง่ายที่จะขยายและรองรับสภาพแวดล้อมในสถานที่คลาวด์และไฮบริดในระดับต่างๆ
• FrameworkController: คอนโทรลเลอร์ Kubernetes Pod โอเพนซอร์สที่เปิดใช้งานที่จัดวางแอพพลิเคชั่นทุกชนิดบน Kubernetes โดยคอนโทรลเลอร์เดียว
• NNI: ชุดเครื่องมือที่มีน้ำหนักเบา แต่ทรงพลังเพื่อช่วยให้ผู้ใช้งานด้านวิศวกรรมคุณลักษณะอัตโนมัติ, การค้นหาสถาปัตยกรรมประสาท, การปรับแต่งพารามิเตอร์ hyperparameter และการบีบอัดแบบจำลอง
• Neuronblocks: ชุดเครื่องมือสร้างแบบจำลองการเรียนรู้แบบลึกของ NLP ที่ช่วยให้วิศวกรสามารถสร้างโมเดล DNN เช่นเล่นเลโก้ เป้าหมายหลักของชุดเครื่องมือนี้คือการลดต้นทุนการพัฒนาสำหรับการสร้างโมเดลเครือข่ายประสาทลึก NLP รวมถึงขั้นตอนการฝึกอบรมและขั้นตอนการอนุมาน
• SPTAG: แผนผังพาร์ติชันอวกาศและกราฟ (Sptag) เป็นไลบรารีโอเพ่นซอร์สสำหรับเวกเตอร์ขนาดใหญ่โดยประมาณสถานการณ์การค้นหาเพื่อนบ้านที่ใกล้ที่สุด

เราสนับสนุนให้นักวิจัยนักพัฒนาและนักเรียนใช้ประโยชน์จากโครงการเหล่านี้เพื่อเพิ่มผลผลิต AI / การเรียนรู้อย่างลึกซึ้ง

การติดตั้ง

ติดตั้งด้วยตนเอง

คุณสามารถรับ MMDNN เวอร์ชันที่เสถียร

pip install mmdnn

และตรวจสอบให้แน่ใจว่าได้ติดตั้ง Python หรือคุณสามารถลองรุ่นใหม่ล่าสุดได้โดย

pip install -U git+https://github.com/Microsoft/MMdnn.git@master

ติดตั้งด้วยภาพนักเทียบท่า

MMDNN ให้ภาพนักเทียบท่าซึ่งบรรจุภัณฑ์ MMDNN และกรอบการเรียนรู้ลึกที่เราสนับสนุนเช่นเดียวกับการพึ่งพาอื่น ๆ คุณสามารถลองภาพด้วยขั้นตอนต่อไปนี้ได้อย่างง่ายดาย:

1. ติดตั้ง Docker Community Edition (CE)

   เรียนรู้เพิ่มเติมเกี่ยวกับวิธีการติดตั้ง Docker

2. ดึงภาพ MMDNN Docker

   docker pull mmdnn/mmdnn:cpu.small

3. เรียกใช้ภาพในโหมดโต้ตอบ

   docker run -it mmdnn/mmdnn:cpu.small

คุณสมบัติ

การแปลงแบบจำลอง

ทั่วทั้งอุตสาหกรรมและสถาบันการศึกษามีเฟรมเวิร์กที่มีอยู่จำนวนมากสำหรับนักพัฒนาและนักวิจัยในการออกแบบแบบจำลองซึ่งแต่ละเฟรมเวิร์กมีคำจำกัดความโครงสร้างเครือข่ายของตัวเองและรูปแบบการประหยัดรูปแบบ ช่องว่างระหว่างเฟรมเวิร์กเป็นอุปสรรคต่อการทำงานของแบบจำลอง

เราจัดทำตัวแปลงแบบจำลองเพื่อช่วยให้นักพัฒนาแปลงโมเดลระหว่างเฟรมเวิร์กผ่านรูปแบบการเป็นตัวแทนระดับกลาง

สนับสนุนเฟรมเวิร์ก

[หมายเหตุ] คุณสามารถคลิกลิงก์เพื่อรับ readme โดยละเอียดของแต่ละเฟรมเวิร์ก

• คาเฟอีน
• Microsoft Cognitive Toolkit (CNTK)
• คนขี้เกียจ
• เครส
• MXNET
• onnx (ปลายทางเท่านั้น)
• pytorch
• tensorflow (ทดลอง) (เราขอแนะนำให้คุณอ่าน readme ของ tensorflow ก่อน)
• Darknet (แหล่งที่มาเท่านั้นการทดลอง)

รุ่นทดสอบ

การแปลงแบบจำลองระหว่างเฟรมเวิร์กที่รองรับในปัจจุบันได้รับการทดสอบในบางรุ่น Imagenet

แบบจำลอง	คาเฟอีน	เครส	เทนเซอร์โฟลว์	CNTK	MXNET	pytorch	คนขี้เกียจ	onnx
VGG 19
Inception v1
Inception v3
Inception v4				โอ
resnet v1				โอ
resnet v2
Mobilenet v1				โอ
Mobilenet v2				โอ
Xception				โอ
บอบบาง
เดนเซเนต
nasnet	x			โอ				x
resnext
VOC FCN
YOLO3

การใช้งาน

หนึ่งคำสั่งเพื่อให้บรรลุการแปลง การใช้ TensorFlow Resnet V2 152 ถึง Pytorch เป็นตัวอย่างของเรา

$ mmdownload -f tensorflow -n resnet_v2_152 -o ./
$ mmconvert -sf tensorflow -in imagenet_resnet_v2_152.ckpt.meta -iw imagenet_resnet_v2_152.ckpt --dstNodeName MMdnn_Output -df pytorch -om tf_resnet_to_pth.pth

เสร็จแล้ว.

เฟรมเวิร์กที่กำลังดำเนินอยู่

• TORCH7 (ต้องการความช่วยเหลือ)
• เชนเนอร์ (ต้องการความช่วยเหลือ)

โมเดลที่กำลังดำเนินอยู่

• การตรวจจับใบหน้า
• การแบ่งส่วนความหมาย
• การถ่ายโอนสไตล์ภาพ
• การตรวจจับวัตถุ
• rnn

---

การสร้างภาพแบบจำลอง

เราให้บริการ Visualizer ท้องถิ่นเพื่อแสดงสถาปัตยกรรมเครือข่ายของรูปแบบการเรียนรู้อย่างลึกซึ้ง โปรดดูคำแนะนำ

---

ตัวอย่าง

การสอนอย่างเป็นทางการ

• Keras "Inception v3" ถึง CNTK และปัญหาที่เกี่ยวข้อง

• Tensorflow Slim Model "Resnet V2 152" ถึง Pytorch

• MXNET Model "LRESNET50E-IR" ถึง TensorFlow และปัญหาที่เกี่ยวข้อง

ตัวอย่างของผู้ใช้

• mxnet "resnet-152-11k" ถึง pytorch

• อีกตัวอย่างหนึ่งของ mxnet "resnet-152-11k" ถึง pytorch

• mxnet "resnext" ไปยัง keras

• tensorflow "resnet-101" ถึง pytorch

• tensorflow "MNIST MLP Model" ถึง CNTK

• tensorflow "inception_v3" ถึง mxnet

• คาเฟอีน "VOC-FCN" ไปยัง TensorFlow

• คาเฟอีน "Alexnet" ถึง tensorflow

• คาเฟอีน "inception_v4" ไปยัง tensorflow

• คาเฟอีน "vgg16_sod" ไปยัง tensorflow

• คาเฟอีน "Squeezenet v1.1" ไปยัง CNTK

---

การบริจาค

การมีส่วนร่วมส่วนใหญ่กำหนดให้คุณต้องยอมรับข้อตกลงใบอนุญาตผู้มีส่วนร่วม (CLA) ประกาศว่าคุณมีสิทธิ์และทำจริงให้สิทธิ์ในการใช้เงินสมทบของคุณ สำหรับรายละเอียดเยี่ยมชม https://cla.microsoft.com

เมื่อคุณส่งคำขอดึง CLA-bot จะพิจารณาโดยอัตโนมัติว่าคุณจำเป็นต้องจัดเตรียม CLA และตกแต่ง PR อย่างเหมาะสมหรือไม่ (เช่นฉลาก, ความคิดเห็น) เพียงทำตามคำแนะนำที่จัดทำโดยบอท คุณจะต้องทำสิ่งนี้เพียงครั้งเดียวใน repos ทั้งหมดโดยใช้ CLA ของเรา

โครงการนี้ได้นำรหัสการดำเนินงานของ Microsoft โอเพ่นซอร์สมาใช้ สำหรับข้อมูลเพิ่มเติมโปรดดูจรรยาบรรณคำถามที่พบบ่อยหรือติดต่อ [email protected] พร้อมคำถามหรือความคิดเห็นเพิ่มเติมใด ๆ

การเป็นตัวแทนระดับกลาง

การเป็นตัวแทนระดับกลางจะจัดเก็บ สถาปัตยกรรมเครือข่าย ใน น้ำหนักไบนารี protobuf และ น้ำหนักที่ได้รับการฝึกอบรมล่วงหน้า ในรูปแบบ Numpy Native

[หมายเหตุ!] ปัจจุบันข้อมูล IR Weights อยู่ในรูปแบบ NHWC (ช่องสุดท้าย)

รายละเอียดอยู่ใน ops.txt และ graph.proto ผู้ให้บริการใหม่และความคิดเห็นใด ๆ ยินดีต้อนรับ

เฟรมเวิร์ก

เรากำลังทำงานเกี่ยวกับการแปลงเฟรมเวิร์กและการสร้างภาพข้อมูลอื่น ๆ เช่น Pytorch, Coreml และอื่น ๆ เรากำลังตรวจสอบผู้ให้บริการที่เกี่ยวข้องกับ RNN มากขึ้น ยินดีต้อนรับการมีส่วนร่วมและข้อเสนอแนะ! รายละเอียดในแนวทางการบริจาค

ผู้เขียน

Yu Liu (มหาวิทยาลัยปักกิ่ง): ผู้พัฒนาโครงการและผู้ดูแลระบบ

Cheng Chen (Microsoft Research Asia): Caffe, CNTK, Coreml Emitter, Keras, MXNet, Tensorflow

JIAHAO YAO (มหาวิทยาลัยปักกิ่ง): COREML, MXNET EMITTER, Pytorch Parser; หน้าแรก

Ru Zhang (Academy of Sciences จีน): Coreml Emitter, Darknet Parser, Keras, Tensorflow กราฟแช่แข็งตัวแยกวิเคราะห์; รุ่น Yolo และ SSD; การทดสอบ

Yuhao Zhou (มหาวิทยาลัยเซี่ยงไฮ้ Jiao Tong): MXNet

Tingting Qin (Microsoft Research Asia): Caffe Emitter

Tong Zhan (Microsoft): onnx emitter

Qianwen Wang (มหาวิทยาลัยวิทยาศาสตร์และเทคโนโลยีฮ่องกง): การสร้างภาพข้อมูล

กิตติกรรมประกาศ

ต้องขอบคุณ Saumitro Dasgupta รหัสเริ่มต้นของ คาเฟอีน -> การแปลง IR คือการอ้างอิงถึงโครงการคาเฟอีน -เซ็นเซอร์โฟลว์ของเขา

ใบอนุญาต

ได้รับใบอนุญาตภายใต้ใบอนุญาต MIT