7,845
社区成员
发帖
与我相关
我的任务
分享骁龙汽车 SA 系列平台,开发自定义算子 Custom Op 包,编译后部署到车载虚拟机有哪些限制?
SA8295、SA8540 等 SA 系列支持在 LA GVM / LV GVM 虚拟机加载自定义算子包;SA8797 QC Linux PVM 暂未完整提供自定义算子官方文档支持。 限制点:
自定义算子包编译时,SDK 版本、目标架构必须和车载运行环境完全匹配;
车规环境下,自定义算子代码需要满足实时性、内存安全要求,不能出现内存泄漏、阻塞调用;
自定义算子会增加模型上下文加载耗时,大算子需要评估 VTCM 占用,防止 HTP 内存溢出;
部署时,算子包 so 文件需要和模型上下文二进制一同打包,放到应用可访问路径。 开发流程:编写算子实现 → 编译 op package → 模型编译时加载算子包 → qnn-net-run 验证。 参考文档:高通 HTP 自定义算子开发教程。