DeepStream Yolo下载DeepStream Yolo源代码下载

DeepStream Yolo

Python

1.0.0

下载

深层YOLO

Nvidia Deepstream SDK 7.1 / 7.0 / 6.4 / 6.3 / 6.2 / 6.2 / 6.1.1 / 6.1 / 6.1 / 6.0.1 / 6.0 / 5.1 YOLO模型配置

目前，我有限一些更新。感谢您的理解。

YOLO-POSE：https：//github.com/marcoslucianops/deepstream-yolo-pose

YOLO-SEG：https：//github.com/marcoslucianops/deepstream-yolo-seg

YOLO-FACE：https：//github.com/marcoslucianops/deepstream-yolo-face

重要：请用新的导出文件导出ONNX模型，再次使用更新的文件生成Tensorrt引擎，然后根据您的模型使用新的config_infer_primary文件

此存储库的改进

支持INT8校准
支持非方形模型
模型基准
使用CFG支持DarkNet模型（Yolov4等），并通过GPU后处理转换
Support for RT-DETR, CO-DETR (MMDetection), YOLO-NAS, PPYOLOE+, PPYOLOE, DAMO-YOLO, Gold-YOLO, RTMDet (MMYOLO), YOLOX, YOLOR, YOLOv9, YOLOv8, YOLOv7, YOLOv6 and YOLOv5 using ONNX conversion with GPU post-processing
GPU Bbox解析器
自定义ONNX模型解析器
动态批处理大小
用于DarkNet和ONNX导出模型的INT8校准（PTQ）

入门

要求
支持的模型
基准
DGPU安装
基本用法
Docker用法
NMS配置
笔记
INT8校准
yolov5使用
yolov6用法
yolov7用法
yolov8用法
yolov9用法
yolor的用法
yoLox的使用
RTMDET（mmyolo）用法
颗粒的用法
Damo-Yolo的使用
pp-yoloe / pp-yoloe+用法
Yolo-nas的使用
使用（mmdetection）用法
RT-DETR PYTORCH用法
RT-DETR PADDLE使用
RT-DETR ULTRATITICS使用率
使用您的自定义模型
多个Yolo Gies

要求

X86平台上的深色7.1

Ubuntu 22.04
CUDA 12.6更新2
Tensorrt 10.3 GA（10.3.0.26）
NVIDIA驱动程序535.183.06（数据中心 /特斯拉系列） / 560.35.03（Titan，Geforce RTX / GTX系列和RTX / Quadro Series）
Nvidia Deepstream SDK 7.1
GSTREAMER 1.20.3
深层YOLO

X86平台上的深色7.0

Ubuntu 22.04
CUDA 12.2更新2
Tensorrt 8.6 GA（8.6.1.6）
NVIDIA驱动程序535（> = 535.161.08）
Nvidia Deepstream SDK 7.0
GSTREAMER 1.20.3
深层YOLO

X86平台上的深色6.4

Ubuntu 22.04
CUDA 12.2更新2
Tensorrt 8.6 GA（8.6.1.6）
NVIDIA驱动程序535（> = 535.104.12）
Nvidia Deepstream SDK 6.4
GSTREAMER 1.20.3
深层YOLO

X86平台上的深色6.3

Ubuntu 20.04
CUDA 12.1更新1
Tensorrt 8.5 GA更新2（8.5.3.1）
NVIDIA驱动程序525（> = 525.125.06）
Nvidia Deepstream SDK 6.3
GSTREAMER 1.16.3
深层YOLO

X86平台上的深色6.2

Ubuntu 20.04
库达11.8
Tensorrt 8.5 GA更新1（8.5.2.2）
NVIDIA驱动程序525（> = 525.85.12）
Nvidia Deepstream SDK 6.2
GSTREAMER 1.16.3
深层YOLO

X86平台上的深色6.1.1

Ubuntu 20.04
CUDA 11.7更新1
Tensorrt 8.4 GA（8.4.1.5）
NVIDIA驱动程序515.65.01
Nvidia Deepstream SDK 6.1.1
GSTREAMER 1.16.2
深层YOLO

X86平台上的深色6.1

Ubuntu 20.04
CUDA 11.6更新1
Tensorrt 8.2 GA更新4（8.2.5.1）
NVIDIA驱动程序510.47.03
Nvidia Deepstream SDK 6.1
GSTREAMER 1.16.2
深层YOLO

X86平台上的Deepstream 6.0.1 / 6.0

Ubuntu 18.04
CUDA 11.4更新1
Tensorrt 8.0 GA（8.0.1）
NVIDIA驱动程序470.63.01
Nvidia Deepstream SDK 6.0.1 / 6.0
GSTREAMER 1.14.5
深层YOLO

X86平台上的深色5.1

Ubuntu 18.04
CUDA 11.1
Tensorrt 7.2.2
NVIDIA驱动程序460.32.03
Nvidia Deepstream SDK 5.1
GSTREAMER 1.14.5
深层YOLO

Jetson平台上的Deepstream 7.1

喷气背包6.1
Nvidia Deepstream SDK 7.1
深层YOLO

Jetson平台上的深色7.0

喷气背包6.0
Nvidia Deepstream SDK 7.0
深层YOLO

Jetson平台上的Deepstream 6.4

喷气背包6.0 dp
Nvidia Deepstream SDK 6.4
深层YOLO

Jetson平台上的Deepstream 6.3

喷气背包5.1.3 / 5.1.2
Nvidia Deepstream SDK 6.3
深层YOLO

Jetson平台上的Deepstream 6.2

喷气背包5.1.3 / 5.1.2 / 5.1.1 / 5.1
Nvidia Deepstream SDK 6.2
深层YOLO

Jetson平台上的Deepstream 6.1.1

喷气背包5.0.2
Nvidia Deepstream SDK 6.1.1
深层YOLO

Jetson平台上的Deepstream 6.1

喷气背包5.0.1 dp
Nvidia Deepstream SDK 6.1
深层YOLO

Jetson平台上的Deepstream 6.0.1 / 6.0

喷气背包4.6.4
Nvidia Deepstream SDK 6.0.1 / 6.0
深层YOLO

Jetson平台上的Deepstream 5.1

喷气背包4.5.1
Nvidia Deepstream SDK 5.1
深层YOLO

支持的模型

darknet
Mobilenet-Yolo
YOLO-FARST
Yolov5
Yolov6
Yolov7
Yolov8
Yolov9
Yolor
YOLOX
RTMDET（mmyolo）
颗粒
Damo-Yolo
pp-yoloe / pp-yoloe+
YOLO-NAS
共核（MMDetection）
rt-det

基本用法

1。下载回购

 git clone https://github.com/marcoslucianops/DeepStream-Yolo.git
cd DeepStream-Yolo

2。下载`cfg`并`weights`文件从Darknet Repo到DeepStream-Yolo文件夹

3。编译自由

3.1。根据您的Deepstream版本设置CUDA_VER

 export CUDA_VER=XY.Z

x86平台

 DeepStream 7.1 = 12.6
DeepStream 7.0 / 6.4 = 12.2
DeepStream 6.3 = 12.1
DeepStream 6.2 = 11.8
DeepStream 6.1.1 = 11.7
DeepStream 6.1 = 11.6
DeepStream 6.0.1 / 6.0 = 11.4
DeepStream 5.1 = 11.1

Jetson平台

 DeepStream 7.1 = 12.6
DeepStream 7.0 / 6.4 = 12.2
DeepStream 6.3 / 6.2 / 6.1.1 / 6.1 = 11.4
DeepStream 6.0.1 / 6.0 / 5.1 = 10.2

3.2。进行自由

 make -C nvdsinfer_custom_impl_Yolo clean && make -C nvdsinfer_custom_impl_Yolo

4。根据您的模型编辑`config_infer_primary.txt`文件（yolov4的示例）

 [property]
...
custom-network-config=yolov4.cfg
model-file=yolov4.weights
...

注意：对于DarkNet模型，默认情况下，设置了动态批处理大小。要使用静态批处理大小，请删除行

 ...
force-implicit-batch-dim=1
...

5。运行

 deepstream-app -c deepstream_app_config.txt

注意：Tensorrt引擎文件可能需要很长时间才能生成（有时超过10分钟）。

注意：如果要使用yolov2或yolov2微型型号，请在运行之前更改deepstream_app_config.txt文件

 ...
[primary-gie]
...
config-file=config_infer_primary_yoloV2.txt
...

Docker用法

x86平台

 nvcr.io/nvidia/deepstream:7.1-gc-triton-devel
nvcr.io/nvidia/deepstream:7.1-triton-multiarch

Jetson平台

 nvcr.io/nvidia/deepstream:7.1-triton-multiarch

注意：要编译nvdsinfer_custom_impl_Yolo ，您需要在容器中安装G ++

 apt-get install build-essential

注意：使用Deepstream 7.1，Docker容器不会包装某些多媒体操作所需的库，例如音频数据解析，CPU解码和CPU编码。此更改可能会影响处理某些视频流/文件（例如MP4）的处理，其中包括音轨。请在Docker图像中运行以下脚本，以安装使用所有DeepStreamSDK功能所需的其他软件包：

 /opt/nvidia/deepstream/deepstream/user_additional_install.sh

NMS配置

要更改nms-iou-threshold ， pre-cluster-threshold和topk值，请修改config_infer文件

 [class-attrs-all]
nms-iou-threshold=0.45
pre-cluster-threshold=0.25
topk=300

注意：确保在config_infer文件中设置cluster-mode=2 。

笔记

有时，在运行GSTREAMER管道或示例应用程序时，用户可能会遇到错误： GLib (gthread-posix.c): Unexpected error from C library during 'pthread_setspecific': Invalid argument. Aborting. 。该问题是由于glib 2.0-2.72版本中的错误引起的，默认情况下，ubuntu 22.04随附。该问题以glib 2.76解决，需要安装来解决该问题（https://github.com/gnome/glib/glib/tree/2.76.6）。
- 将glib迁移到更新版本
```
 pip3 install meson
pip3 install ninja
```
  注意：建议使用Python Virtualenv。
```
 git clone https://github.com/GNOME/glib.git
cd glib
git checkout 2.76.6
meson build --prefix=/usr
ninja -C build/
cd build/
ninja install
```
- 检查并确认新安装的GLIB版本：
```
 pkg-config --modversion glib-2.0
```
有时，随着RTSP流的使用，应用程序被卡在到达EOS上。这是因为RTPJitterBuffer组件中的问题。为了解决此问题，已为脚本提供了所需的详细信息，以更新GSTRTPMANAGER库。
```
 /opt/nvidia/deepstream/deepstream/update_rtpmanager.sh
```