DeepStream Yolo下載DeepStream Yolo源代碼下載

DeepStream Yolo

Python

1.0.0

下載

深層YOLO

Nvidia Deepstream SDK 7.1 / 7.0 / 6.4 / 6.3 / 6.2 / 6.2 / 6.1.1 / 6.1 / 6.1 / 6.0.1 / 6.0 / 5.1 YOLO模型配置

目前，我有限一些更新。感謝您的理解。

YOLO-POSE：https：//github.com/marcoslucianops/deepstream-yolo-pose

YOLO-SEG：https：//github.com/marcoslucianops/deepstream-yolo-seg

YOLO-FACE：https：//github.com/marcoslucianops/deepstream-yolo-face

重要：請用新的導出文件導出ONNX模型，再次使用更新的文件生成Tensorrt引擎，然後根據您的模型使用新的config_infer_primary文件

此存儲庫的改進

支持INT8校準
支持非方形模型
模型基準
使用CFG支持DarkNet模型（Yolov4等），並通過GPU後處理轉換
Support for RT-DETR, CO-DETR (MMDetection), YOLO-NAS, PPYOLOE+, PPYOLOE, DAMO-YOLO, Gold-YOLO, RTMDet (MMYOLO), YOLOX, YOLOR, YOLOv9, YOLOv8, YOLOv7, YOLOv6 and YOLOv5 using ONNX conversion with GPU post-processing
GPU Bbox解析器
自定義ONNX模型解析器
動態批處理大小
用於DarkNet和ONNX導出模型的INT8校準（PTQ）

入門

要求
支持的模型
基準
DGPU安裝
基本用法
Docker用法
NMS配置
筆記
INT8校準
yolov5使用
yolov6用法
yolov7用法
yolov8用法
yolov9用法
yolor的用法
yoLox的使用
RTMDET（mmyolo）用法
顆粒的用法
Damo-Yolo的使用
pp-yoloe / pp-yoloe+用法
Yolo-nas的使用
使用（mmdetection）用法
RT-DETR PYTORCH用法
RT-DETR PADDLE使用
RT-DETR ULTRATITICS使用率
使用您的自定義模型
多個Yolo Gies

要求

X86平台上的深色7.1

Ubuntu 22.04
CUDA 12.6更新2
Tensorrt 10.3 GA（10.3.0.26）
NVIDIA驅動程序535.183.06（數據中心 /特斯拉系列） / 560.35.03（Titan，Geforce RTX / GTX系列和RTX / Quadro Series）
Nvidia Deepstream SDK 7.1
GSTREAMER 1.20.3
深層YOLO

X86平台上的深色7.0

Ubuntu 22.04
CUDA 12.2更新2
Tensorrt 8.6 GA（8.6.1.6）
NVIDIA驅動程序535（> = 535.161.08）
Nvidia Deepstream SDK 7.0
GSTREAMER 1.20.3
深層YOLO

X86平台上的深色6.4

Ubuntu 22.04
CUDA 12.2更新2
Tensorrt 8.6 GA（8.6.1.6）
NVIDIA驅動程序535（> = 535.104.12）
Nvidia Deepstream SDK 6.4
GSTREAMER 1.20.3
深層YOLO

X86平台上的深色6.3

Ubuntu 20.04
CUDA 12.1更新1
Tensorrt 8.5 GA更新2（8.5.3.1）
NVIDIA驅動程序525（> = 525.125.06）
Nvidia Deepstream SDK 6.3
GSTREAMER 1.16.3
深層YOLO

X86平台上的深色6.2

Ubuntu 20.04
庫達11.8
Tensorrt 8.5 GA更新1（8.5.2.2）
NVIDIA驅動程序525（> = 525.85.12）
Nvidia Deepstream SDK 6.2
GSTREAMER 1.16.3
深層YOLO

X86平台上的深色6.1.1

Ubuntu 20.04
CUDA 11.7更新1
Tensorrt 8.4 GA（8.4.1.5）
NVIDIA驅動程序515.65.01
Nvidia Deepstream SDK 6.1.1
GSTREAMER 1.16.2
深層YOLO

X86平台上的深色6.1

Ubuntu 20.04
CUDA 11.6更新1
Tensorrt 8.2 GA更新4（8.2.5.1）
NVIDIA驅動程序510.47.03
Nvidia Deepstream SDK 6.1
GSTREAMER 1.16.2
深層YOLO

X86平台上的Deepstream 6.0.1 / 6.0

Ubuntu 18.04
CUDA 11.4更新1
Tensorrt 8.0 GA（8.0.1）
NVIDIA驅動程序470.63.01
Nvidia Deepstream SDK 6.0.1 / 6.0
GSTREAMER 1.14.5
深層YOLO

X86平台上的深色5.1

Ubuntu 18.04
CUDA 11.1
Tensorrt 7.2.2
NVIDIA驅動程序460.32.03
Nvidia Deepstream SDK 5.1
GSTREAMER 1.14.5
深層YOLO

Jetson平台上的Deepstream 7.1

噴氣背包6.1
Nvidia Deepstream SDK 7.1
深層YOLO

Jetson平台上的深色7.0

噴氣背包6.0
Nvidia Deepstream SDK 7.0
深層YOLO

Jetson平台上的Deepstream 6.4

噴氣背包6.0 dp
Nvidia Deepstream SDK 6.4
深層YOLO

Jetson平台上的Deepstream 6.3

噴氣背包5.1.3 / 5.1.2
Nvidia Deepstream SDK 6.3
深層YOLO

Jetson平台上的Deepstream 6.2

噴氣背包5.1.3 / 5.1.2 / 5.1.1 / 5.1
Nvidia Deepstream SDK 6.2
深層YOLO

Jetson平台上的Deepstream 6.1.1

噴氣背包5.0.2
Nvidia Deepstream SDK 6.1.1
深層YOLO

Jetson平台上的Deepstream 6.1

噴氣背包5.0.1 dp
Nvidia Deepstream SDK 6.1
深層YOLO

Jetson平台上的Deepstream 6.0.1 / 6.0

噴氣背包4.6.4
Nvidia Deepstream SDK 6.0.1 / 6.0
深層YOLO

Jetson平台上的Deepstream 5.1

噴氣背包4.5.1
Nvidia Deepstream SDK 5.1
深層YOLO

支持的模型

darknet
Mobilenet-Yolo
YOLO-FARST
Yolov5
Yolov6
Yolov7
Yolov8
Yolov9
Yolor
YOLOX
RTMDET（mmyolo）
顆粒
Damo-Yolo
pp-yoloe / pp-yoloe+
YOLO-NAS
共核（MMDetection）
rt-det

基本用法

1。下載回購

 git clone https://github.com/marcoslucianops/DeepStream-Yolo.git
cd DeepStream-Yolo

2。下載`cfg`並`weights`文件從Darknet Repo到DeepStream-Yolo文件夾

3。編譯自由

3.1。根據您的Deepstream版本設置CUDA_VER

 export CUDA_VER=XY.Z

x86平台

 DeepStream 7.1 = 12.6
DeepStream 7.0 / 6.4 = 12.2
DeepStream 6.3 = 12.1
DeepStream 6.2 = 11.8
DeepStream 6.1.1 = 11.7
DeepStream 6.1 = 11.6
DeepStream 6.0.1 / 6.0 = 11.4
DeepStream 5.1 = 11.1

Jetson平台

 DeepStream 7.1 = 12.6
DeepStream 7.0 / 6.4 = 12.2
DeepStream 6.3 / 6.2 / 6.1.1 / 6.1 = 11.4
DeepStream 6.0.1 / 6.0 / 5.1 = 10.2

3.2。進行自由

 make -C nvdsinfer_custom_impl_Yolo clean && make -C nvdsinfer_custom_impl_Yolo

4。根據您的模型編輯`config_infer_primary.txt`文件（yolov4的示例）

 [property]
...
custom-network-config=yolov4.cfg
model-file=yolov4.weights
...

注意：對於DarkNet模型，默認情況下，設置了動態批處理大小。要使用靜態批處理大小，請刪除行

 ...
force-implicit-batch-dim=1
...

5。運行

 deepstream-app -c deepstream_app_config.txt

注意：Tensorrt引擎文件可能需要很長時間才能生成（有時超過10分鐘）。

注意：如果要使用yolov2或yolov2微型型號，請在運行之前更改deepstream_app_config.txt文件

 ...
[primary-gie]
...
config-file=config_infer_primary_yoloV2.txt
...

Docker用法

x86平台

 nvcr.io/nvidia/deepstream:7.1-gc-triton-devel
nvcr.io/nvidia/deepstream:7.1-triton-multiarch

Jetson平台

 nvcr.io/nvidia/deepstream:7.1-triton-multiarch

注意：要編譯nvdsinfer_custom_impl_Yolo ，您需要在容器中安裝G ++

 apt-get install build-essential

注意：使用Deepstream 7.1，Docker容器不會包裝某些多媒體操作所需的庫，例如音頻數據解析，CPU解碼和CPU編碼。此更改可能會影響處理某些視頻流/文件（例如MP4）的處理，其中包括音軌。請在Docker圖像中運行以下腳本，以安裝使用所有DeepStreamSDK功能所需的其他軟件包：

 /opt/nvidia/deepstream/deepstream/user_additional_install.sh

NMS配置

要更改nms-iou-threshold ， pre-cluster-threshold和topk值，請修改config_infer文件

 [class-attrs-all]
nms-iou-threshold=0.45
pre-cluster-threshold=0.25
topk=300

注意：確保在config_infer文件中設置cluster-mode=2 。

筆記

有時，在運行GSTREAMER管道或示例應用程序時，用戶可能會遇到錯誤： GLib (gthread-posix.c): Unexpected error from C library during 'pthread_setspecific': Invalid argument. Aborting. 。該問題是由於glib 2.0-2.72版本中的錯誤引起的，默認情況下，ubuntu 22.04隨附。該問題以glib 2.76解決，需要安裝來解決該問題（https://github.com/gnome/glib/glib/tree/2.76.6）。
- 將glib遷移到更新版本
```
 pip3 install meson
pip3 install ninja
```
  注意：建議使用Python Virtualenv。
```
 git clone https://github.com/GNOME/glib.git
cd glib
git checkout 2.76.6
meson build --prefix=/usr
ninja -C build/
cd build/
ninja install
```
- 檢查並確認新安裝的GLIB版本：
```
 pkg-config --modversion glib-2.0
```
有時，隨著RTSP流的使用，應用程序被卡在到達EOS上。這是因為RTPJitterBuffer組件中的問題。為了解決此問題，已為腳本提供了所需的詳細信息，以更新GSTRTPMANAGER庫。
```
 /opt/nvidia/deepstream/deepstream/update_rtpmanager.sh
```