Dokumentasi | Dokumentasi Cina
China yang disederhanakan | Bahasa inggris
Tengine
Perkenalan
Tengine dipimpin oleh Open AI Lab , dan proyek ini menyadari perlunya penyebaran model jaringan saraf pembelajaran dalam yang cepat dan efisien pada perangkat tertanam. Untuk mewujudkan penyebaran lintas platform dalam banyak aplikasi AIOT , proyek ini menggunakan bahasa C untuk pengembangan modul inti dan melakukan pemotongan kerangka kerja yang mendalam berdasarkan sumber daya yang terbatas dari perangkat tertanam. Pada saat yang sama, desain front-end yang benar-benar terpisah diadopsi, yang kondusif untuk porting cepat dan penyebaran unit komputasi heterogen seperti CPU, GPU, dan NPU, mengurangi biaya evaluasi dan migrasi.
Kode inti Tengine terdiri dari 4 modul:
- Perangkat : Modul Backend Operator NN, CPU, GPU, kode referensi NPU disediakan;
- Penjadwal : Komponen inti dari kerangka kerja, termasuk NNIR, grafik komputasi, sumber daya perangkat keras, dan modul penjadwalan dan eksekusi parser model;
- Operator : Operator NN Modul front-end, mengimplementasikan pendaftaran dan inisialisasi operator NN;
- Serializer : Model parser, mengimplementasikan analisis parameter model jaringan dalam format tmfile.
Analisis Singkat Arsitektur
Mulailah dengan cepat
Kompilasi
- Kompilasi cepat berdasarkan CMake, kompilasi lintas platform sederhana diimplementasikan.
Contoh
- Contohnya memberikan kasus penggunaan algoritma klasifikasi dan deteksi dasar, dan terus diperbarui sesuai dengan persyaratan masalah.
- Instalasi sumber menyediakan instalasi baris perintah apt-get dan uji coba sistem Ubuntu, dan saat ini mendukung perangkat keras X86/A311D.
Gudang Model
Alat konversi
- Versi Pra -Dikompilasi: Menyediakan alat konversi model yang telah dikompilasi pada sistem Ubuntu 18.04;
- Versi Konversi Online: Berdasarkan Implementasi WebAssembly (Browser Local Conversion, Model tidak akan diunggah;
- Kompilasi Kode Sumber: Disarankan untuk dikompilasi di server atau PC, instruksi adalah sebagai berikut:
mkdir build && cd build
cmake -DTENGINE_BUILD_CONVERT_TOOL=ON ..
make -j`nproc`
Alat kuantitatif
- Kompilasi Kode Sumber: Kode sumber alat kuantitatif telah dibuka dan mendukung UInt8/int8.
Penilaian Kecepatan
- Alat Penilaian Kecepatan Jaringan Dasar Benchmark, selamat datang untuk memperbaruinya.
Plugin NPU
- Panduan Pengguna NPU Verisilicon Tim-VX.
Plugin Autokernel
- Autokernel adalah alat optimasi operator otomatis yang sederhana dan mudah digunakan, rendah ambang batas. Plugin Autokernel mengimplementasikan penyebaran satu klik operator optimasi otomatis ke tengine.
Wadah
- SuperEdge memberikan solusi manajemen bisnis yang lebih nyaman dengan bantuan sistem manajemen wadah open source supergegede;
- Cara menggunakan tengine dengan panduan penggunaan wadah superedge;
- Panduan Pembuatan File Ketergantungan Manual Panduan Pengguna.
Peta jalan
Ucapan Terima Kasih
Tengine Lite Referensi dan Menggambar pada Item berikut:
- Caffe
- Tensorflow
- Megengine
- Onnx
- ncnn
- Feathercnn
- Mnn
- Dayung lite
- ACL
- stb
- ConvertModel
- Tim-vx
- Superge
Lisensi
Catatan Klarifikasi
- [Fungsi Pelaporan Online] Tujuan utama fungsi pelaporan online adalah untuk memahami informasi penggunaan Tengine. Informasi ini digunakan untuk mengoptimalkan dan mengulangi tengine dan tidak akan mempengaruhi fungsi normal. Fungsi ini aktif secara default. Jika Anda perlu mematikannya, Anda dapat memodifikasi konfigurasi berikut untuk mematikannya: (Home Directory cmakelists.txt) opsi (tengine_online_report "Laporan Online" OFF)
FAQ
Diskusi Teknis
