الوثائق | الوثائق الصينية
تبسيط الصينية | إنجليزي
Tengine
مقدمة
يقود Tengine Open AI Lab ، ويدرك المشروع الحاجة إلى النشر السريع والفعال لنماذج الشبكة العصبية التعليمية العميقة على الأجهزة المدمجة. من أجل تحقيق النشر عبر المنصات في العديد من تطبيقات AIOT ، يستخدم هذا المشروع لغة C لتطوير الوحدة النمطية الأساسية ويقوم بإجراء قطع إطار متعمق بناءً على الموارد المحدودة للأجهزة المدمجة. في الوقت نفسه ، يتم اعتماد تصميم منفصل للواجهة الأمامية تمامًا ، والذي يفضي إلى النقل السريع ونشر وحدات الحوسبة غير المتجانسة مثل وحدة المعالجة المركزية و GPU و NPU ، مما يقلل من تكلفة التقييم والهجرة.
يتكون رمز Tengine Core من 4 وحدات:
- الجهاز : يتم توفير الوحدة النمطية للمشغلين الخلفية ، وحدة المعالجة المركزية ، GPU ، رموز مرجعية NPU ؛
- جدولة : المكونات الأساسية للإطار ، بما في ذلك NNIR ، الرسم البياني الحاسوي ، موارد الأجهزة ، ووحدة الجدولة والتنفيذ في محلل النموذج ؛
- المشغل : الوحدة النمطية للواجهة الأمامية للمشغلين ، يقومون بتطوير تسجيل المشغلين وتهيئتهم ؛
- Serializer : Model Parser ، ينفذ تحليل معلمة نموذج الشبكة بتنسيق TMFILE.
تحليل موجز للعمارة
ابدأ بسرعة
التجميع
- تجميع سريع استنادًا إلى CMake ، يتم تنفيذ تجميع منصة التبادل البسيط.
مثال
- الأمثلة توفر حالات استخدام خوارزمية التصنيف والاكتشاف الأساسية ، وتحديث بشكل مستمر وفقًا لمتطلبات الإصدار.
- يوفر تثبيت المصدر تثبيت سطر الأوامر APT-GET وتجربة نظام Ubuntu ، ويدعم حاليًا أجهزة X86/A311D.
مستودع النموذج
أداة التحويل
- الإصدار المسبق: يوفر أدوات تحويل النموذج المسبق على نظام Ubuntu 18.04 ؛
- إصدار التحويل عبر الإنترنت: استنادًا إلى تطبيق Webassembly (التحويل المحلي للمتصفح ، لن يتم تحميل النموذج ؛
- مجموعة رمز المصدر: يوصى بتجميع الخادم أو الكمبيوتر الشخصي ، على النحو التالي:
mkdir build && cd build
cmake -DTENGINE_BUILD_CONVERT_TOOL=ON ..
make -j`nproc`
الأدوات الكمية
- مجموعة رمز المصدر: تم فتح الكود المصدر للأداة الكمية ويدعم UINT8/Int8.
تقييم السرعة
- أداة تقييم سرعة الشبكة الأساسية في Benchmark ، مرحبًا بك لتحديثها.
المكون الإضافي NPU
- دليل مستخدم TIM-VX Verisilicon NPU.
المكون الإضافي Autokernel
- Autokernel هي أداة تحسين المشغل التلقائي البسيطة وسهلة الاستخدام ، منخفضة العتبة. يقوم Autokernel Plugin بتنفيذ النشر بنقرة واحدة لمشغلي التحسين التلقائي في Tengine.
حاوية
- يوفر Superedge حلًا أكثر ملاءمة لإدارة الأعمال بمساعدة نظام إدارة الحاويات مفتوح المصدر Superedge Edge ؛
- كيفية استخدام Tengine مع دليل استخدام حاوية Superedge ؛
- فيديو لالتقاط الفيديو دليل توليد ملفات التبعية Demo Demo.
خريطة الطريق
شكر وتقدير
مراجع Tengine Lite والتعريف على العناصر التالية:
- الكافيين
- Tensorflow
- Megengine
- onnx
- NCNN
- Feathercnn
- mnn
- مجداف لايت
- ACL
- STB
- ConvertModel
- تيم-فكس
- Superedge
رخصة
ملاحظة التوضيح
- [وظيفة الإبلاغ عبر الإنترنت] الغرض الرئيسي من وظيفة الإبلاغ عبر الإنترنت هو فهم معلومات استخدام Tengine. يتم استخدام المعلومات لتحسين وتكرار tgine ولن تؤثر على أي وظائف طبيعية. هذه الوظيفة تعمل بشكل افتراضي. إذا كنت بحاجة إلى إيقاف تشغيله ، فيمكنك تعديل التكوين التالي لإيقاف تشغيله: (Directory Cmakelists.txt) خيار (Tengine_online_Report "Online Off) OFF)
التعليمات
مناقشة فنية
