在边缘计算网关上使用高通平台部署容器化AI应用时，如何配置NPU直通访问？

[陵南高校仙道彰]

在边缘计算网关上使用高通平台部署容器化AI应用时，如何配置NPU直通访问？
 

[weixin_38498942]

高通边缘网关NPU容器化配置步骤：
1）宿主机需加载QNN运行时驱动（/dev/dsp、/dev/adsprpc-smd等设备节点）；
2）在Docker运行命令中添加--device /dev/dsp --device /dev/adsprpc-smd参数授予容器设备访问权限；
3）挂载必要的库路径：-v /usr/lib/libQnnHtp.so:/usr/lib/libQnnHtp.so及相关依赖；
4）设置环境变量ADSP_LIBRARY_PATH指向容器内的QNN后端库路径；
5）如需使用GPU推理，额外添加--device /dev/kgsl-3d0并挂载OpenCL库。对于Kubernetes部署，可通过Device Plugin框架实现NPU资源的动态分配，参考高通提供的K8s设备插件实现。