news 2026/4/18 3:51:43

从0到上线:用 Docker + TensorRT 将 YOLO 人体检测推理速度提升数倍(上篇)

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
从0到上线:用 Docker + TensorRT 将 YOLO 人体检测推理速度提升数倍(上篇)

往期文章
RK3588+docker+YOLOv5部署:https://blog.csdn.net/FJN110/article/details/149673049
RK3588测试NPU和RKNN函数包装https://blog.csdn.net/FJN110/article/details/149669753
RK3588刷机:https://blog.csdn.net/FJN110/article/details/149669404
以及深度学习部署工程师1~31主要学习tensorRT、cmake、docker、C++基础、语义分割、目标检测、关键点识别、RTSP推流、3D模型部署、车牌检测于识别项目、人脸属性分析(年龄、性别、名称、是否佩戴口罩)等知识
好的进入本节课程:
在安装全部的库之后,大概会占用根目录30G左右的空间,所以在配置ubuntu的时候应该多配置一些空间给根目录
安装docker 的pytorch报会占用14GB的空间,没有空间需要慎重
本来用tensorRT的docker还需要多6GB的空间,但是如果你没空间的话可以跳过,因为我们已经在本地安装了TensorRT了,直接用本地的也行。
如果你没有进行前面的步骤,直接从这节开始,只用docker的方式,应该30GB以内就能完成。
所以你需要查看自己的根目录还有没有30GB空间
用df -h查看目前的空间情况
首先需要获得一个pt权重文件,我们才能部署,如果你不想要重新训练,你可以直接用我的pt文件进行TensorRT部署,跳过yolo安装、训练这些过程
代码在文章底部。
推理效果:

本节分上下两节,部署的部分为下节内容,本节主要是训练yolov5模型,为后面TensorRT准备

文章目录

  • YOLOV5 人员检测项目
  • 一、安装Pytorch 及 YOLO v5
    • 1.1 安装GPU版 pytorch
    • 1.2 安装YOLO v5所需依赖
  • 二、YOLO v5训练自定义数据(不想要训练可以跳过)
    • 2.1 标注数据
      • 2.1.1 安装labelImg
      • 2.1.2 标注
    • 2.2 准备数据集
      • 2.2.1 组织目录结构
      • 2.2.2 创建 dataset.yaml
    • 2.3 选择合适的预训练模型
    • 2.4 训练
    • 2.5 可视化
      • 2.5.1 wandb
      • 2.5.2 Tensorboard
    • 2.6 测试评估模型
      • 2.6.1 测试
      • 2.6.2 评估

YOLOV5 人员检测项目

一、安装Pytorch 及 YOLO v5

1.1 安装GPU版 pytorch

  • 方法一:conda虚拟环境
    这种方式在环境搭建中有更为详细的介绍(环境搭建是一个文档,如果需要的话私信我)

首先,请参考上一节课将GPU driver, cuda, cudnn先安装完毕。

# 使用conda虚拟环境(安装文档:https://docs.conda.io/en/latest/miniconda.html)# 创建conda虚拟环境,参考你选择的版本安装即可# 最新版:https://pytorch.org/get-started/locally/# 历史版本:https://pytorch.org/get-started/previous-versions/
  • 方法二:docker 方式(推荐)

使用docker主要是因为与主机性能区别不大,且

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/18 8:51:03

规范化学术写作:7个AI工具适配LaTeX与格式要求

工具快速对比排名(前7推荐) 工具名称 核心功能亮点 处理时间 适配平台 aibiye 学生/编辑双模式降AIGC 1分钟 知网、万方等 aicheck AI痕迹精准弱化查重一体 ~20分钟 知网、格子达、维普 askpaper AIGC率个位数优化 ~20分钟 高校检测规则通…

作者头像 李华
网站建设 2026/4/8 21:36:22

AI工具助力论文撰写:高效生成与降重,初稿轻松搞定

AI工具性能速览表 工具名称 核心功能 处理时间 AI生成率控制 适配检测平台 askpaper 降AIGC率降重同步 20分钟 个位数 知网/格子达/维普 秒篇 AI痕迹深度弱化 20分钟 个位数 知网/格子达/维普 aicheck 全学科初稿生成 20-30分钟 低水平 - aibiye 文献智能…

作者头像 李华
网站建设 2026/4/18 6:28:01

还在嫌 YOLOv8 太慢?L1 剪枝实测:精度仅降 0.8%,速度大幅提升

剪枝后对比图: 文章目录 代码 原理介绍 核心做法概述 移植代码 下载yolov8代码 在工作根目录创建compress.py 创建ultralytics\models\yolo\detect\compress.py ultralytics\models\yolo\detect\compress.py 移植ultralytics\nn\extra_modules 移植ultralytics\cfg\hyp.scra…

作者头像 李华
网站建设 2026/4/18 8:03:29

树与二叉树:从核心概念到遍历技巧

一、树的核心概念树是一种非线性数据结构,它由 n(n≥0) 个有限节点组成,并且这些节点之间呈现层次化的父子关系。之所以叫 “树”,是因为它看起来像一棵倒过来的树 —— 根在上,叶子在下。树的三大特点有且仅有一个根节点根节点是…

作者头像 李华