TensorRT介绍

人工智能领域优质创作者

博客专家认证

2023-01-13 03:24:11

课时名称	课时知识点
TensorRT介绍	TensorRT介绍

...全文

50 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

Nvidia TensorRT官方API文档，离线使用。

本项目提供了 tensorrt 部署 DETR 完整工程源码、依赖及模型，并且整理好了一键执行脚本。部署链路为 pytorch -> onnx -> trt(trtexec) 脚本执行顺序为： ● (1) run_convert_todetr_r50.sh ==> 模型转换 ● (2) run_detr_py_demo.sh ==> 初始权重的精度测试 ● (3) run_export_detr_onnx.sh ==> 导出 onnx 模型，并做 sim 简化 ● (4) run_export_trt_plan.sh ==> 导出 trt 模型，并做性能测试 ● (5) run_export_trt_plan_fp16.sh ==> 导出 trt 模型，并做 fp16 推理的性能测试

技术文档分享，免费获取请私信博主。

部署yolov8的tensorrt模型支持检测分割的python源码+部署步骤.zip

对yolov3进行TensorRT加速，大约提高30%的inference速度，仅供学习参考，请勿商业使用。

石楠的课程社区_NO_1

1

社区成员

23

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章