หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>หลาม
ดาวน์โหลด

เอกสาร เอกสารภาษาจีน

ภาษาจีนง่ายๆ | ภาษาอังกฤษ

เทนดีน

การแนะนำ

Tengine นำโดย Open AI Lab และโครงการตระหนักถึงความจำเป็นในการปรับใช้แบบจำลองเครือข่ายประสาทการเรียนรู้ อย่างรวดเร็ว และ มีประสิทธิภาพ บนอุปกรณ์ฝังตัว เพื่อที่จะตระหนักถึงการปรับใช้ข้ามแพลตฟอร์มในแอปพลิเคชัน AIOT จำนวนมากโครงการนี้ใช้ ภาษา C สำหรับการพัฒนาโมดูลหลักและดำเนินการตัดเฟรมเวิร์กในเชิงลึกขึ้นอยู่กับทรัพยากรที่ จำกัด ของอุปกรณ์ฝังตัว ในเวลาเดียวกันการออกแบบส่วนหน้าแยกอย่างสมบูรณ์จะถูกนำมาใช้ซึ่งเอื้อต่อการพอร์ตอย่างรวดเร็วและการปรับใช้หน่วยคอมพิวเตอร์ที่ต่างกันเช่น CPU, GPU และ NPU ลดต้นทุนการประเมินและการย้ายถิ่น

รหัสหลักของ Tengine ประกอบด้วย 4 โมดูล:

  • อุปกรณ์ : โมดูลแบ็กเอนด์ NN, CPU, GPU, รหัสอ้างอิง NPU มีให้;
  • Scheduler : องค์ประกอบหลักของเฟรมเวิร์กรวมถึง NNIR, กราฟการคำนวณ, ทรัพยากรฮาร์ดแวร์และโมดูลการกำหนดเวลาและการดำเนินการของตัวแยกวิเคราะห์แบบจำลอง
  • ผู้ประกอบการ : โมดูลผู้ให้บริการ NN Front-end ใช้การลงทะเบียนผู้ให้บริการ NN และการเริ่มต้น;
  • Serializer : ตัวแยกวิเคราะห์แบบจำลองใช้การวิเคราะห์พารามิเตอร์โมเดลเครือข่ายในรูปแบบ TMFile

การวิเคราะห์สั้น ๆ ของสถาปัตยกรรม

สถาปัตยกรรม Tengine

เริ่มต้นอย่างรวดเร็ว

การรวบรวม

  • การรวบรวมอย่างรวดเร็วขึ้นอยู่กับ CMake การรวบรวมข้ามแพลตฟอร์มแบบง่าย ๆ ถูกนำมาใช้

ตัวอย่าง

  • ตัวอย่างให้กรณีการจำแนกประเภทและอัลกอริทึมการตรวจจับขั้นพื้นฐานและอัปเดตอย่างต่อเนื่องตามข้อกำหนดของปัญหา
  • การติดตั้งแหล่งที่มาให้การติดตั้งบรรทัดคำสั่ง APT-GET และการทดลองใช้ระบบ Ubuntu และปัจจุบันรองรับฮาร์ดแวร์ X86/A311D

โมเดลคลังสินค้า

  • Baidu Netdisk (รหัสการสกัด: 7KE5)

  • Google Drive

เครื่องมือแปลง

  • เวอร์ชันที่คอมไพล์ Precompiled: จัดเตรียมเครื่องมือแปลงโมเดลที่คอมไพล์ไว้ล่วงหน้าบนระบบ Ubuntu 18.04;
  • เวอร์ชันการแปลงออนไลน์: ขึ้นอยู่กับการใช้งาน WebAssembly (การแปลงในท้องถิ่นของเบราว์เซอร์รูปแบบจะไม่ถูกอัปโหลด
  • การรวบรวมซอร์สโค้ด: ขอแนะนำให้รวบรวมบนเซิร์ฟเวอร์หรือพีซีคำแนะนำมีดังนี้: 
     mkdir build && cd build
cmake -DTENGINE_BUILD_CONVERT_TOOL=ON ..
make -j`nproc`

เครื่องมือเชิงปริมาณ

  • การรวบรวมซอร์สโค้ด: ซอร์สโค้ดของเครื่องมือเชิงปริมาณถูกเปิดและรองรับ UINT8/INT8

การประเมินความเร็ว

  • เครื่องมือประเมินความเร็วเครือข่ายพื้นฐานของ Benchmark ยินดีต้อนรับสู่การอัปเดต

ปลั๊กอิน NPU

  • คู่มือผู้ใช้ Tim-VX Verisilicon NPU

ปลั๊กอิน Autokernel

  • AutokerNel เป็นเครื่องมือเพิ่มประสิทธิภาพของผู้ประกอบการอัตโนมัติที่ใช้งานง่ายและใช้งานง่าย ปลั๊กอิน AutokerNel ใช้การปรับใช้แบบคลิกเดียวของตัวดำเนินการเพิ่มประสิทธิภาพอัตโนมัติใน Tengine

คอนเทนเนอร์

  • SuperEdge จัดหาโซลูชันการจัดการธุรกิจที่สะดวกยิ่งขึ้นด้วยความช่วยเหลือของระบบการจัดการคอนเทนเนอร์โอเพนซอร์ส SuperEdge Edge
  • วิธีใช้ Tengine กับคู่มือการใช้งาน SuperEdge Container;
  • คู่มือการสร้างคู่มือผู้ใช้คู่มือการจับภาพคู่มือการพึ่งพาไฟล์

แผนงาน

  • แผนที่ถนน

กิตติกรรมประกาศ

Tengine Lite อ้างอิงและวาดในรายการต่อไปนี้:

  • คาเฟอีน
  • เทนเซอร์โฟลว์
  • megengine
  • onnx
  • ncnn
  • เฟเธอร์คนิน
  • มินนิโซตา
  • พายเรือ
  • ACL
  • STB
  • ผู้แปลงโทน
  • tim-vx
  • สุดยอด

ใบอนุญาต

  • Apache 2.0

หมายเหตุการชี้แจง

  • [ฟังก์ชั่นการรายงานออนไลน์] วัตถุประสงค์หลักของฟังก์ชั่นการรายงานออนไลน์คือการเข้าใจข้อมูลการใช้งานของ Tengine ข้อมูลถูกใช้เพื่อเพิ่มประสิทธิภาพและทำซ้ำ Tengine และจะไม่ส่งผลกระทบต่อฟังก์ชั่นปกติใด ๆ ฟังก์ชั่นนี้เปิดโดยค่าเริ่มต้น หากคุณต้องการปิดคุณสามารถแก้ไขการกำหนดค่าต่อไปนี้เพื่อปิด: (โฮมไดเรกทอรี cmakelists.txt) ตัวเลือก (TENNINE_ONLINE_REPORT "รายงานออนไลน์" ปิด)

คำถามที่พบบ่อย

  • คำถามที่พบบ่อย

การอภิปรายทางเทคนิค

ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด