Skip to content

Based on tensorrt v8.0+, deploy detection, pose, segment, tracking of YOLO11 with C++ and python api.

License

Notifications You must be signed in to change notification settings

emptysoal/TensorRT-YOLO11

Folders and files

NameName
Last commit message
Last commit date

Latest commit

2aacf3e · Jan 21, 2025

History

39 Commits
Oct 14, 2024
Oct 14, 2024
Oct 14, 2024
Oct 14, 2024
Oct 14, 2024
Oct 25, 2024
Nov 8, 2024

Repository files navigation

TensorRT 部署 YOLO11 目标检测、关键点检测、实例分割、目标跟踪

一. 项目简介

  • 基于 TensorRT-v8 ,部署YOLO11 目标检测、关键点检测、实例分割、目标跟踪 4 项任务;

  • 支持在 Jetson 系列、 Linux x86_64 服务器上部署;

  • 无需安装支持cudaOpenCV,前后处理的张量操作都是作者通过cuda编程实现;

  • 模型转换方式:.pth -> .onnx -> .plan(.engine)

  • 作者使用 PythonC++ 2 种 api 分别做了实现;

  • 均采用了面向对象的方式,便于结合到其他项目当中;

  • C++ 版本的还会编译为动态链接库,便于在其他项目种作为接口调用;

二. 项目效果

原图 目标检测
004 004_detect
关键点检测 实例分割
004_pose 004_seg
  • ByteTrack目标跟踪

result

三. 推理速度

detect pose segment
C++ 3 ms 4 ms 6 ms
python 10 ms 13 ms 45 ms
  • 这里的推理时间包含前处理、模型推理、后处理
  • 这里基于 x86_64 Linux 服务器,Ubuntu系统,显卡为GeForce RTX 2080 Ti

四. 环境配置

  1. 基本要求:
  • TensorRT 8.0+
  • OpenCV 3.4.0+

如果基本要求已满足,可直接进入各目录下运行各任务

环境构建可以参考下面内容:

  1. 如果是 Linux x86_64 服务器上,建议使用 docker
  • 具体环境构建,可参考这个链接 构建TensorRT环境 的环境构建部分,也是作者的项目
  1. 如果是边缘设备,如:Jetson Nano
  • 烧录 Jetpack 4.6.1 系统镜像,网上烧录镜像的资料还是很多的,这里就不赘述了
  • Jetpack 4.6.1 系统镜像原装环境如下:
CUDA cuDNN TensorRT OpenCV
10.2 8.2 8.2.1 4.1.1

五. 项目运行

About

Based on tensorrt v8.0+, deploy detection, pose, segment, tracking of YOLO11 with C++ and python api.

Topics

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published