不同平台的模型输出结果异常

wenhyan 2024-11-22 10:38:28

用qnn-context-binary-generator工具转出来的模型，同样的输入，在不同的target上结果不一致。

设备：

linux x86的libQnnHtp.so

S8650上libQnnHtp.so

这个问题应该如何解决？

...全文

801 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 2024-12-03

打赏
举报

回复

你可以尝试保持相同的后端, 在8650上也让QNN跑在CPU的后端上进行测试, 来确认是否能够得到相同的结果.

java基础教程----精华版，不得不下载的资源

最近将一个带有空洞卷积的pytorch模型转为tensorrt加速，在转换过程中，出现pytorch->onnx->tensorrt，pytorch->tensorrt两种方式均能完成转换，但是转换后的模型输出结果不对，跟pytorch模型输出结果差别很大。 tensorrt 空洞卷积层后面接个ElementWise层，ElementWise层输出结果跟pytorch模型中卷积层的求和结果是不一样的。模型结构： block{ conv1=conv(input,kernel

最近在做实验时，需要使用到模型在训练时的输出结果。有些情况下，需要用到模型中间的若干层的输出结果，我的实验中需要用到模型的最后输出结果。参考另一篇文章中的方法：python - Keras, How to get the output of each layer? - Stack Overflow 但是我的实验更复杂一点，我的模型中有多个输入和多个输出，但实现起来也不是很复杂，获取模型最后一层的输出结果的代码如下： from keras import backend as K get_lay

如题，本次bug原因是MNN的输出格式是NC4HW4，需要将其转为NCHW即可。附上MNN文档源码如下： import MNN.expr as F vars = F.load_as_dict("model.mnn") inputVar = vars["input"] # 查看输入信息 print(inputVar.shape) print(inputVar.data_format) # 修改原始模型的 NC4HW4 输入为 NCHW，便于输入 if (inputVar.data_format == F.N

将模型预测结果存储到文件中：先提取模型预测数据，通过str（）将模型中的数据转化为字符串。这里的replace函数有两个参数，一个“”，另一个为“”，不同之处在于前一个有空格，而后一个没有，这个函数主要是用于替换字符串中的空格。经实践证明，经过str(resultNp)转换后的数据，每个字符之间隐藏着空格，如果不用replace函数进行“清除”，会在页面输出时影响正常数据的输出。 pt = model.predict(test) resultNp = np.argmax(pt, axis=1) m ..

高通开发者论坛

3,467

社区成员

5,805

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章