paddle 如何对opencl的后端推理做逐层的精度对比分析? 我在使用QCM6490的开发板运行paddle lite的demo, 但是发现arm和opencl的backend的推理结果不一

red archer 2025-01-17 11:13:58

paddle 如何对opencl的后端推理做逐层的精度对比分析?
我在使用QCM6490的开发板运行paddle lite的demo, 但是发现arm和opencl的backend的推理结果不一样, 请问我如何做逐层的精度对比分析？找到为什么adreno的gpu下 opencl的结果会有偏差?

...全文

639 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 01-20

打赏
举报

回复

https://paddlelite-demo.bj.bcebos.com/devices/generic/PaddleLite-generic-demo_v2_12_0.tar.gz
解压后用 tools/model_utilities/insert_print_op.py 可以在模型中插入 print op 打印特定层的结果，可以用这个方式对比 arm 和 opencl 的精度.

通过修改MJpg-Streamer代码，在获取的摄像头图像中，使用百度的paddle-lite框架和模型，进行人脸检测和佩戴口罩识别，并对未佩戴者语音提醒。这是所需的paddle-lite的库和头文件

序言最近有个需求，需要在arm板子上部署一个通用的ocr模型，正好度娘家开源的PaddleOCR效果识别得非常不错，并且提供了mobile版本，因为业务中对精度要求不是特别的高，而且自己去训练的话效果还大概率没有人家的好，所以就不从训练开始折腾了，索性就直接拿来用。PaddleOCR对于部署来说非常的友好，提供了很多方式的部署代码，因为我是要用到arm边缘板子上，所以选择了paddle-lite方式进行部署，而paddle-lite的部署代码，在PaddleOCR源码的deploy/lite文件夹中，具体

Paddle Lite 是一种轻量级、灵活性强、易于扩展的高性能的深度学习预测框架，它可以支持诸如 ARM、OpenCL 、NPU 等等多种终端，同时拥有强大的图优化及预测加速能力。

paddlelite部署yolov5

部署"桨"坛栏目聚焦AI硬件部署，分享多款厂商硬件部署方案及教程，帮助开发者们实现模型训练与推理的一体化开发和多硬件设备间的无缝切换。近年来，伴随着移动端和边缘端处理器能力上限的不断被突破...

高通开发者论坛

3,770

社区成员

5,820

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章