往期文章
RK3588+docker+YOLOv5部署:https://blog.csdn.net/FJN110/article/details/149673049
RK3588测试NPU和RKNN函数包装https://blog.csdn.net/FJN110/article/details/149669753
RK3588刷机:https://blog.csdn.net/FJN110/article/details/149669404
以及深度学习部署工程师1~31主要学习tensorRT、cmake、docker、C++基础、语义分割、目标检测、关键点识别、RTSP推流、3D模型部署、车牌检测于识别项目、人脸属性分析(年龄、性别、名称、是否佩戴口罩)等知识
好的进入本节课程:
你需要查看自己的根目录还有没有30GB空间
用df -h查看目前的空间情况
首先需要获得一个pt权重文件,我们才能部署,如果你不想要重新训练,你可以直接用我的pt文件进行TensorRT部署,跳过yolo安装、训练这些过程
代码在文章底部。
int8量化+TensoRT:200FPS
TensoRT:166FPS
CUDA:147FPS
CPU:93FPS
都是在batch为1的情况下运行,如果batch拉满可能差距会更大!!!
最后效果:
int8量化+TensorRT
TensoRT:
Docker+TensorRT:YOLO人体检测部署与推理教程
张小明
前端开发工程师
AI如何帮你解决‘ENCOUNTERED AN IMPROPER ARGUMENT‘错误
快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 创建一个Python脚本,演示当函数接收到不合法参数时如何抛出ENCOUNTERED AN IMPROPER ARGUMENT错误,并实现AI辅助的错误检测和修复功能。要求包含参数类型检…
3分钟完成GitLab部署:Docker vs 传统安装效率对比
快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 请生成一份详细的对比报告,展示Docker安装GitLab与传统安装方式的效率差异。要求包含:1. 时间成本对比表格 2. 系统资源占用对比 3. 升级维护难易度分析 4.…
VLLM在生产环境中的实战:电商客服机器人部署
快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 开发一个电商客服机器人系统,使用VLLM部署大语言模型作为核心引擎。要求:1. 实现多轮对话管理功能2. 集成商品数据库查询接口3. 处理常见客户咨询ÿ…
电路仿真circuits网页版全面讲解:支持多设备访问的云方案
以下是对您提供的博文内容进行 深度润色与结构重构后的专业级技术文章 。全文已彻底去除AI腔调、模板化表达与空泛总结,转而以一位 深耕Web技术栈与电子设计工具链多年的工程师视角 ,用自然、凝练、富有节奏感的语言重写。文中融合真实工程权衡、踩坑经验、性能边界认知,…
传统开发vs快马AI:TK网站开发效率对比实验
快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 创建一个用于效率对比的基准TK网站项目,要求包含:1.用户管理系统;2.内容发布平台;3.数据统计看板;4.API接口文档&#x…
动手试了Qwen-Image-2512-ComfyUI,出图效果远超预期
动手试了Qwen-Image-2512-ComfyUI,出图效果远超预期 最近在本地部署了一个新镜像——Qwen-Image-2512-ComfyUI。不是试用、不是围观,是真刀真枪地跑通工作流、调参、换提示词、反复生成对比。结果很实在:它不像一个“又一个开源图生图模型”…