Unduh CV CUDA - Unduhan Kode Sumber CV CUDA

CV CUDA

C/C++

v0.13.0

Unduh

CV-CUDA

CV-CUDA adalah proyek open-source yang memungkinkan membangun aplikasi pencitraan dan pencitraan komputer (CV) yang efisien. Ia menggunakan akselerasi unit pemrosesan grafis (GPU) untuk membantu pengembang membangun jalur pipa sebelum dan sesudah pemrosesan yang sangat efisien. CV-Cuda berasal sebagai upaya kolaboratif antara Nvidia dan Bytedance.

Lihat Panduan Pengembang kami untuk informasi lebih lanjut tentang operator yang tersedia.

Memulai

Untuk mendapatkan salinan lokal dan berjalan ikuti langkah -langkah ini.

Kesesuaian

CV-CUDA BUILD	Platform	Versi CUDA	Kemampuan menghitung CUDA	Arsitektur perangkat keras	Pengemudi nvidia	Versi Python	Kompiler yang Didukung (Build From Source)	Kompatibilitas API dengan binari prebuilt	Distribusi OS/Linux diuji dengan paket prebuilt
x86_64_cu11	x86_64	11.7 atau lebih baru	SM7 dan yang lebih baru	Volta, Turing, Ampere, Hopper, Ada Lovelace	r525 atau lebih lambat ***	3.8, 3.9, 3.10, 3.11	GCC> = 9* gcc> = 11 **	GCC> = 9	Ubuntu> = 20.04 Wsl2/ubuntu> = 20.04
x86_64_cu12	x86_64	12.2 atau lebih baru	SM7 dan yang lebih baru	Volta, Turing, Ampere, Hopper, Ada Lovelace	r525 atau lebih lambat ***	3.8, 3.9, 3.10, 3.11	GCC> = 9* gcc> = 11 **	GCC> = 9	Ubuntu> = 20.04 Wsl2/ubuntu> = 20.04
aarch64_cu11	aarch64	11.4	SM7 dan yang lebih baru	Jetson Agx Orin	Jetpack 5.1	3.8	GCC> = 9* gcc> = 11 **	GCC> = 9	Jetson Linux 35.x
aarch64_cu12	aarch64	12.2	SM7 dan yang lebih baru	Jetson Agx Orin, IGX ORIN + Ampere RTX6000, IGX ORIN + ADA RTX6000	JetPack 6.0 DP, R535 (IGX OS V0.6)	3.10	GCC> = 9* gcc> = 11 **	GCC> = 9	Jetson Linux 36.2 IGX OS V0.6

* Build parsial, tidak ada modul uji (lihat batasan yang diketahui)
** Bangunan penuh, termasuk modul uji
*** Sampel memerlukan pengemudi R535 atau lebih baru untuk berlari dan hanya secara resmi didukung dengan CUDA 12.

Keterbatasan dan masalah yang diketahui

Untuk versi GCC lebih rendah dari 11.0, dukungan C ++ 17 perlu diaktifkan saat menyusun CV-CUDA.
Modul uji C ++ tidak dapat dibangun dengan GCC <11 (membutuhkan fitur C ++-20 spesifik). Dengan GCC-9 atau GCC-10, silakan bangun dengan opsi -DBUILD_TESTS=0
Sampel CV-CUDA membutuhkan pengemudi R535 atau lebih baru untuk berlari dan hanya secara resmi didukung dengan CUDA 12.
Hanya satu versi CUDA (CUDA 11.X atau CUDA 12.X) dari paket CV-CUDA (paket Debian, Tarballs, Roda Python) yang dapat dipasang pada satu waktu. Harap hapus semua paket dari versi CUDA yang diberikan sebelum menginstal paket dari versi yang berbeda.
Dokumentasi yang dibangun di atas Ubuntu 20.04 membutuhkan versi terbaru dari sphinx ( pip install --upgrade sphinx ) serta secara eksplisit parsing versi python default sistem ./ci/build_docs path/to/build -DPYTHON_VERSIONS="<py_ver>" .
Operator yang diubah ukuran dan secara acak salah menginterpolasi nilai piksel di dekat batas gambar atau tensor saat menggunakan interpolasi kubik. Ini akan diperbaiki dalam rilis yang akan datang.

Instalasi

Untuk kenyamanan, kami menyediakan paket yang sudah dibangun untuk berbagai kombinasi versi CUDA, versi Python dan arsitektur di sini. Langkah-langkah berikut menjelaskan cara menginstal CV-Cuda dari paket yang sudah dibangun tersebut.

Kami mendukung dua jalur alternatif utama:

Roda Python mandiri (berisi perpustakaan C ++/CUDA dan binding Python)
Instalasi Arsip Deb atau Tar (Perpustakaan C ++/CUDA, Header, Binding Python)

Pilih metode instalasi yang memenuhi kebutuhan lingkungan Anda.

Instalasi File Roda Python

Unduh file .whl yang sesuai untuk arsitektur komputer Anda, Python dan versi CUDA dari aset rilis rilis CV-CUDA saat ini. Informasi rilis semua rilis CV-CUDA dapat ditemukan di sini. Setelah diunduh, jalankan perintah pip install untuk menginstal roda python. Misalnya:

pip install cvcuda_ < cu_ver > - < x.x.x > -cp < py_ver > -cp < py_ver > -linux_ < arch > .whl

Di mana <cu_ver> adalah versi CUDA yang diinginkan, <xxx> adalah versi rilis CV-CUDA, <py_ver> adalah versi python yang diinginkan dan <arch> adalah arsitektur yang diinginkan.

Harap dicatat bahwa roda Python mandiri, mereka termasuk perpustakaan C ++/CUDA dan binding Python.

Instalasi File Deb

Instal C ++/CUDA Libraries (cvCuda-lib*) dan header pengembangan (cvCuda-dev*) menggunakan apt :

sudo apt install -y ./cvcuda-lib- < x.x.x > - < cu_ver > - < arch > -linux.deb ./cvcuda-dev- < x.x.x > - < cu_ver > - < arch > -linux.deb

Instal Python Bindings (CVCUDA-PYTHON*) Menggunakan apt :

sudo apt install -y ./cvcuda-python < py_ver > - < x.x.x > - < cu_ver > - < arch > -linux.deb

Di mana <cu_ver> adalah versi CUDA yang diinginkan, <py_ver> adalah versi Python yang diinginkan dan <arch> adalah arsitektur yang diinginkan.

Instalasi File Tar

Instal C ++/CUDA Libraries (cvCuda-lib*) dan header pengembangan (cvCuda-dev*):

tar -xvf cvcuda-lib- < x.x.x > - < cu_ver > - < arch > -linux.tar.xz
tar -xvf cvcuda-dev- < x.x.x > - < cu_ver > - < arch > -linux.tar.xz

Instal Python Bindings (CVCUDA-PYTHON*)

tar -xvf cvcuda-python < py_ver > - < x.x.x > - < cu_ver > - < arch > -linux.tar.xz

Di mana <cu_ver> adalah versi CUDA yang diinginkan, <py_ver> adalah versi Python yang diinginkan dan <arch> adalah arsitektur yang diinginkan.

Membangun dari sumber

Ikuti instruksi ini untuk membangun CV-cuda dari sumber:

1. Siapkan repositori CV-cuda lokal Anda

Instal dependensi yang diperlukan untuk mengatur repositori:

git
GIT-LFS: Untuk mengambil file biner dari repositori jarak jauh

Di ubuntu> = 20.04, instal paket berikut menggunakan apt :

sudo apt install -y git git-lfs

Klon Repositori

git clone https://github.com/CVCUDA/CV-CUDA.git

Dengan asumsi repositori dikloning di ~/cvcuda , perlu dikonfigurasi dengan benar dengan menjalankan skrip init_repo.sh hanya sekali.

 cd ~ /cvcuda
./init_repo.sh

2. Bangun CV-Cuda

Instal dependensi yang diperlukan untuk membangun CV-Cuda:

G ++-11: Kompiler yang akan digunakan
cmake (> = 3.20), ninja-build (opsional): Kelola aturan build
Python3-dev: untuk binding Python
LIBSSL-DEV: Dibutuhkan oleh TestSuite (Utilitas Hashing MD5)
Toolkit CUDA
Patchelf

Di ubuntu> = 20.04, instal paket berikut menggunakan apt :

sudo apt install -y g++-11 cmake ninja-build python3-dev libssl-dev patchelf

Versi setiap toolkit CUDA 11.x atau 12.x harus berfungsi. CV-CUDA diuji dengan 11,7 dan 12,2, versi ini direkomendasikan.

sudo apt install -y cuda-11-7
# or
sudo apt install -y cuda-12-2

Bangun proyek:

ci/build.sh [release | debug] [output build tree path] [-DBUILD_TESTS = 1 | 0] [-DPYTHON_VERSIONS = ' 3.8;3.9;3.10;3.11 ' ] [-DPUBLIC_API_COMPILERS = ' gcc-9;gcc-11;clang-11;clang-14 ' ]

Jenis build default adalah 'Release'.
Jika output membangun jalur pohon tidak ditentukan, itu akan menjadi build-rel untuk pembuatan rilis, dan build-deb untuk debug.
Perpustakaan ada di build-rel/lib dan executable (tes, dll ...) ada di build-rel/bin .
Opsi -DBUILD_TESTS dapat digunakan untuk menonaktifkan/mengaktifkan membangun tes (diaktifkan secara default, lihat batasan yang diketahui).
Opsi -DPYTHON_VERSIONS dapat digunakan untuk memilih versi Python untuk membangun binding dan roda. Secara default, hanya versi sistem default Python3 yang akan dipilih.
Opsi -DPUBLIC_API_COMPILERS dapat digunakan untuk memilih kompiler yang digunakan untuk memeriksa kompatibilitas API publik. Secara default, GCC-11, GCC-9, Clang-11, dan Clang-14 dicoba dipilih dan diperiksa.

3. Bangun dokumentasi

Batasan yang Diketahui: Dokumentasi Dibangun di Ubuntu 20.04 membutuhkan versi terbaru dari sphinx ( pip install --upgrade sphinx ) serta secara eksplisit parsing versi python default sistem ./ci/build_docs path/to/build -DPYTHON_VERSIONS="<py_ver>" .

Instal dependensi yang diperlukan untuk membangun dokumentasi:

Doxygen: File header parse untuk dokumentasi referensi
Python3, Python3-PIP: Untuk menginstal beberapa paket Python yang dibutuhkan
Sphinx, Breathe, Recomelationmark, Graphiviz: Untuk membuat dokumentasi
sphinx-rtd-tema: tema dokumentasi digunakan

Di Ubuntu, instal paket berikut menggunakan apt dan pip :

sudo apt install -y doxygen graphviz python3 python3-pip sphinx
python3 -m pip install breathe recommonmark graphviz sphinx-rtd-theme

Bangun dokumentasi:

ci/build_docs.sh [build folder]

Folder Bangun Default 'Build'.

4. Bangun dan jalankan sampel

Untuk instruksi tentang cara membangun sampel dari sumber dan menjalankannya, lihat dokumentasi sampel.

5. Jalankan tes

Instal dependensi yang diperlukan untuk menjalankan tes:

Python3, Python3-PIP: Untuk menjalankan tes binding Python
Obor: Ketergantungan yang Diperlukan oleh Tes Binding Python

Di ubuntu> = 20.04, instal paket berikut menggunakan apt dan pip :

sudo apt install -y python3 python3-pip
python3 -m pip install pytest torch numpy==1.26

Tes berada di <buildtree>/bin . Anda dapat menjalankan skrip di bawah ini untuk menjalankan semua tes sekaligus. Berikut adalah contoh ketika pohon build dibuat di build-rel :

build-rel/bin/run_tests.sh

6. Penginstal Paket dan Roda Python

Pemasang paket

Installer dapat dihasilkan menggunakan perintah cpack berikut setelah Anda berhasil membangun proyek:

 cd build-rel
cpack .

Ini akan menghasilkan di Direktori Build, baik installer dan tarball Debian (*.tar.xz), yang diperlukan untuk integrasi di distro lain.

Untuk pilihan yang dihasilkan oleh installer yang halus, sintaksis lengkapnya adalah:

cpack . -G [DEB | TXZ]

Deb untuk Paket Debian
Txz untuk tarballs *.tar.xz.

Roda Python

Secara default, selama pembuatan release , binding dan roda Python dibuat untuk versi CUDA yang tersedia dan versi Python yang ditentukan. Roda sekarang output ke folder build-rel/python3/repaired_wheels (setelah diproses oleh perintah auditwheel repair dalam kasus Manylinux). Roda Python tunggal yang dihasilkan kompatibel dengan semua versi Python yang ditentukan selama langkah build CMake. Di sini, build-rel adalah direktori build yang digunakan untuk membangun rilis build.

Roda Python baru untuk kepatuhan PYPI harus dibangun dalam lingkungan Docker Manylinux 2014. Gambar Docker dapat dihasilkan menggunakan skrip docker/manylinux/docker_buildx.sh . Gambar -gambar ini memastikan roda memenuhi standar Manylinux 2014 dan PYPI.

Roda yang dibangun masih dapat dipasang menggunakan pip . Misalnya, untuk memasang roda python yang dibangun untuk CUDA 12.X, Python 3.10 dan 3.11 pada sistem Linux x86_64:

pip install cvcuda_cu12- < x.x.x > -cp310.cp311-cp310.cp311-linux_x86_64.whl

Berkontribusi

CV-CUDA adalah proyek open source. Sebagai bagian dari komunitas open source, kami berkomitmen pada siklus pembelajaran, peningkatan, dan pembaruan yang membuat komunitas ini berkembang. Namun, CV-Cuda belum siap untuk kontribusi eksternal.

Untuk memahami proses untuk berkontribusi CV-Cuda, lihat halaman Kontribusi kami. Untuk memahami komitmen kami kepada komunitas open source, dan menyediakan lingkungan yang mendukung dan menghormati upaya semua kontributor, silakan baca kode perilaku kami.

Cv-cuda membuat alat operator

Skrip mkop.sh adalah alat yang ampuh untuk membuat perancah untuk operator baru di perpustakaan CV-Cuda. Ini mengotomatiskan beberapa tugas, memastikan konsistensi dan menghemat waktu.

Fitur `mkop.sh` :

Operator Stub Creation : Menghasilkan template operator tanpa op (tanpa operasi), yang berfungsi sebagai titik awal untuk mengimplementasikan fungsionalitas baru.
Kustomisasi File : Memodifikasi file templat untuk memasukkan nama operator baru, memastikan konvensi penamaan yang konsisten di seluruh basis kode.
Integrasi CMake : Menambahkan file operator baru ke CMakelists yang sesuai, memfasilitasi kompilasi dan integrasi yang mulus ke dalam sistem build.
Binding Python : Membuat rintisan Python Wrapper untuk operator baru, yang memungkinkannya digunakan dalam lingkungan Python.
Pengaturan Tes : Menghasilkan file uji untuk C ++ dan Python, memungkinkan pengembangan segera tes unit untuk operator baru.

Cara menggunakan `mkop.sh` :

Jalankan skrip dengan nama operator yang diinginkan. Skrip ini mengasumsikan itu terletak di ~/cvcuda/tools/mkop .

./mkop.sh [Operator Name]

Jika skrip dijalankan dari lokasi yang berbeda, berikan jalur ke direktori root CV-Cuda.

./mkop.sh [Operator Name] [CV-CUDA root]

Catatan : Surat pertama dari nama operator baru dikapitisasi jika diperlukan untuk mencocokkan sisa struktur file.

Detail Proses:

Pengaturan Awal : Skrip dimulai dengan memvalidasi input dan mengatur variabel yang diperlukan. Kemudian memanfaatkan huruf pertama dari nama operator untuk mematuhi konvensi penamaan.
Modifikasi Template : Ini memproses berbagai file template ( Public.h , PrivateImpl.cpp , dll.), Mengganti placeholder dengan nama operator baru. Ini termasuk penyesuaian header file, ruang nama, dan tanda tangan fungsi.
Integrasi CMake dan Python : Script memperbarui file CMakeLists.txt dan file modul Python untuk memasukkan operator baru, memastikannya diakui oleh sistem build dan antarmuka Python.
Kerangka Pengujian : Akhirnya, ia mengatur file tes untuk C ++ dan Python, yang memungkinkan pengembang untuk segera mulai menulis tes untuk operator baru.

Lisensi

CV-CUDA beroperasi di bawah lisensi APACHE-2.0.

Keamanan

CV-Cuda, sebagai program NVIDIA, berkomitmen untuk mengamankan praktik pembangunan. Silakan baca halaman keamanan kami untuk mempelajari lebih lanjut.