QNN运行时完全无法加载

ilikeliuzhekai 2026-01-13 17:06:06

在骁龙X Elite测试机（admin账户）上，运行任何QNN示例均失败。

错误：Unable to load backend - load library failed for QnnHtp.dll

已尝试：

CPU/DSP/GPU后端均失败，同一错误

确认文件存在且版本正确（2.38.0.0）

文件路径和权限正常

怀疑：

QNN运行时系统级依赖缺失（如VC++运行时、系统组件）

HTP驱动未安装/禁用，且阻止了整个QNN初始化

测试机QNN环境配置不完整

请求：

检查并安装完整的Qualcomm AI Stack运行时

验证HTP/AI驱动状态

提供可运行的基准测试环境

...全文

45 1 打赏收藏转发到动态举报

写回复

用AI写文章

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

创达-技术-李晋 01-13 19:27

打赏
举报

目前有效信息太少,如需验证环境问题,请执行ai-engine-direct-helper/tools/launcher下面的1和3bat脚本,验证超分模型是否正常.另外可以尝试运行sdk下面的bin\aarch64-windows-msvc\qnn-platform-validator

随着大模型、小模型在端侧、边缘侧广泛部署，AI芯片运行时（Runtime）的能力逐渐成为系统性能和能耗表现的核心决定因素。本文聚焦主流 AI 芯片（如寒武纪、地平线、华为昇腾、高通 Hexagon、联发科 APU）在模型加载、算子调度、任务切换与资源分配等方面的 Runtime 机制，结合真实项目中模型上线、动态切换与多任务共存的复杂场景，拆解当前主流 NN Runtime 的设计模式、调优策略及其对开发者性能体验的影响，帮助工程团队全面理解 AI Runtime 的实际行为和调优路径。

FINN 端到端流在这本文中，我们将讨论如何使用一个简单的、二进制的、完全连接的、在MNIST数据集上训练的网络，并将它一直使用到一个在PYNQ板上运行的定制位文件。概述 FINN编译器附带了许多转换，这些转换根据特定模式修改网络的ONNX表示。本文将演示一系列可能的转换，以将特定的经过培训的网络一直带到硬件，如下图所示。白色字段显示相应步骤中网络表示的状态。彩色字段表示应用于网络以获得特定结果的变换。该图分为5个部分，用不同的颜色表示，每个部分包括几个流程步骤。流程从左上角的Brevitas

对于要加载的两个后端库，可以从某个库显式加载该库的第二个副本与第一个库所在的目录不同的目录，或者在期间创建了重复的文件系统进程执行（对于 android 目标，adb remount）。将此与多线程推理进行比较。排序和数据分页：随着操作数量的增加，Context Binary 还必须需要存储有关操作顺序的信息以及有关数据分页的信息（需要进行哪些操作）写入 DDR 并需要在执行期间带回 VTCM）。使用量化感知训练可以消除使用 16 位激活的需要，并且可以允许使用 8 位激活，这将提高性能和功耗。

Qualcomm® AI Engine Direct SDK 中提供的基准测试由一组 Python 脚本组成，这些脚本在目标设备上运行网络并收集性能指标。它使用 SDK 包中的可执行文件和库在目标上运行已编译的 model.so 文件，使用一组网络输入以及指向该组输入的文件。基准测试脚本的输入是 JSON 格式的配置文件。SDK 附带一个用于运行 InceptionV3 模型的配置文件，该文件是按照 SDK 文档中的说明创建的。

SNPE旨在提供一套完整的深度学习推理解决方案，支持多种深度学习模型和硬件平台。它充分利用底层硬件的优势，提升深度学习推理的效率和速度，为移动端和物联网设备上的深度学习应用提供高效的支持。SNPE（Snapdragon Neural Processing Engine），是高通公司推出的面向移动端和物联网设备的深度学习推理框架。SNPE提供了一套完整的深度学习推理框架，能够支持多种深度学习模型。

高通开发者论坛

6,666

社区成员

6,082

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章