关于QNN量化的疑问

wenhyan 2024-11-11 10:15:27

在使用qnn-onnx-converter进行量化操作时，input_list.txt中的raw文件，是否与模型推理时的输入一致的呢？

layout是NCHW还是NHWC？是否需要进行归一化操作？模型量化后，精度与f32的模型相差很大，找不到具体的原因在哪里

...全文

885 2 打赏收藏转发到动态举报

写回复

2 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_138 03-13

打赏
举报

回复

qnn-onnx-converter默认输入是fp32，默认会帮你做nchw->nhwc

weixin_38498942 2024-11-22

打赏
举报

回复

input_list.txt中的raw文件, 他的排列(NCHW/NHWC) 是需要和原始模型是一致的, 另外如果原模型推理的时候需要进行归一化, 那么我们需要对raw文件先进行归一化.

可以找到具体哪一层的输出不一致, 找到量化和非量化模型输出的差异.

YOLOv5-Lite 树莓派4B 15帧教程

第1章：AIGC与量子计算基础 1.1.1 AIGC的概念与发展 AIGC（AI-Generated Content）是指由人工智能技术生成的各种内容，包括文本、图片、音频和视频等。AIGC的发展历程可以追溯到20世纪80年代，当时自然语言处理和计算机视觉等人工智能领域的研究

Ubuntu+FINN+FPGA

2021 年 3 月，Huggingface 和 AWS 宣布了一项合作伙伴关系，这使得在亚马逊 SageMaker 上训练最先进的 NLP 模型变得更加容易。有了新的拥抱脸训练 DLCs，训练基于变形金刚的 NLP 模型变得简单多了。7 月，这种集成得到了扩展,在 SageMaker 上增加了变形金刚模型的简单部署和推断。现在，在 2021 年 8 月，Sagemaker Python SDK 为这种集成添加了另一个构件，Huggingface 处理器。

欢迎来到通过量子计算视角探索金融建模的迷人世界。本书旨在提供对量子计算在金融领域应用这一未开辟领域的启示性探索。我们的旅程从全面理解数字技术的局限性开始，并探讨量子计算如何帮助突破这些边界。在本书的篇章中，我们深入探讨了量子机器学习QML）的细微差别，以及如何利用其独特特性来彻底改变金融建模的各个方面。我们将探索衍生品定价、投资组合管理和信用风险分析，揭示 QML 算法在这些领域的变革潜力。然而，与任何技术实现一样，单单理解量子技术并不足以确保一帆风顺。

高通开发者论坛

3,446

社区成员

5,804

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章