Skip to content

Based on tensorrt v8.0+, deploy detection, pose, segment, tracking of YOLO11 with C++ and python api.

License

Notifications You must be signed in to change notification settings

emptysoal/TensorRT-YOLO11

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

37 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

TensorRT 部署 YOLO11 目标检测、关键点检测、实例分割、目标跟踪

一. 项目简介

  • 基于 TensorRT-v8 ,部署YOLO11 目标检测、关键点检测、实例分割、目标跟踪 4 项任务;

  • 支持在 Jetson 系列、 Linux x86_64 服务器上部署;

  • 无需安装支持cudaOpenCV,前后处理的张量操作都是作者通过cuda编程实现;

  • 模型转换方式:.pth -> .onnx -> .plan(.engine)

  • 作者使用 PythonC++ 2 种 api 分别做了实现;

  • 均采用了面向对象的方式,便于结合到其他项目当中;

  • C++ 版本的还会编译为动态链接库,便于在其他项目种作为接口调用;

二. 项目效果

原图 目标检测
004 004_detect
关键点检测 实例分割
004_pose 004_seg
  • ByteTrack目标跟踪

result

三. 推理速度

detect pose segment
C++ 3 ms 4 ms 6 ms
python 10 ms 13 ms 45 ms
  • 这里的推理时间包含前处理、模型推理、后处理
  • 这里基于 x86_64 Linux 服务器,Ubuntu系统,显卡为GeForce RTX 2080 Ti

四. 环境配置

  1. 基本要求:
  • TensorRT 8.0+
  • OpenCV 3.4.0+

如果基本要求已满足,可直接进入各目录下运行各任务

环境构建可以参考下面内容:

  1. 如果是 Linux x86_64 服务器上,建议使用 docker
  • 具体环境构建,可参考这个链接 构建TensorRT环境 的环境构建部分,也是作者的项目
  1. 如果是边缘设备,如:Jetson Nano
  • 烧录 Jetpack 4.6.1 系统镜像,网上烧录镜像的资料还是很多的,这里就不赘述了
  • Jetpack 4.6.1 系统镜像原装环境如下:
CUDA cuDNN TensorRT OpenCV
10.2 8.2 8.2.1 4.1.1

五. 项目运行

About

Based on tensorrt v8.0+, deploy detection, pose, segment, tracking of YOLO11 with C++ and python api.

Topics

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published