在EB3 Gen2（高通QCS6490）上，如何通过命令启动ResNet-3D模型的HTTP推理服务？服务启动后会输出哪些关键信息？

草卡卡 2025-12-04 13:49:42

在EB3 Gen2（高通QCS6490）上，如何通过命令启动ResNet-3D模型的HTTP推理服务？服务启动后会输出哪些关键信息？

...全文

11 1 打赏收藏转发到动态举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

weixin_38498942 11小时前

打赏
举报

回复

启动命令为：edge-impulse-linux-runner --model-file /opt/model/resnet-3d-prj-linux-aarch64-qnn-v9.eim --run-http-server 1085 &（其中/opt/model/为模型路径，1085为端口）；服务启动后输出的关键信息包括：①400个Kinetics-400行为类别标签（如“abseiling”“air drumming”）；②HTTP服务地址（如http://192.168.1.170:1085），用于发送推理请求。

本文是《探索QCS6490目标检测AI应用开发》系列的第三部分，重点介绍了如何在应用程序中使用解码后的视频帧结合Yolov8n模型进行推理。文章详细说明了使用高通Qualcomm® AI Engine Direct（QNN）进行模型推理的前置条件，包括环境搭建、模型准备和AI Engine Direct Helper的下载与编译。此外，文章还提供了具体的代码示例，展示了如何利用AI Engine Direct Helper简化模型推理过程，包括模型初始化、输入缓冲区填充、推理执行以及资源释放等关键步骤。

本文以高通QCS6490和QCM6490为例，详细解析了高通处理器中QCS与QCM系列的区别。两者基于相同的6nm工艺核心架构，包括Kryo™ 670八核CPU、Adreno 643 GPU和10 TOPS以上的AI能力，但在功能配置和市场定位上存在显著差异。QCM6490集成5G基带，主打移动终端如车载和手持设备，而QCS6490无基带，支持多系统（Android/Linux/Windows IoT），专注于高端物联网如工业机器人和医疗设备。文章强调两者虽技术同源，但因通信模块和系统支持差异，需根据具体场景选型，不可完全互换。

本文详细介绍了基于高通QCS8550开发板与DeepSeek-R1-Distill-Llama-8B模型构建AI驱动的商品知识库与智能售前助手的全流程实践。QCS8550凭借4nm制程工艺和48TOPS算力优势，结合Dify平台的灵活开发能力，实现了低延迟、高能效的端侧AI推理。文章涵盖环境准备、Dify部署、模型配置等关键步骤，并演示了商品查询、自动计价等实际应用场景，为开发者提供了从硬件选型到业务落地的完整解决方案。

QCS-AX2芯片组系列.pdf

QCS操作说明doc,QCS操作说明

高通开发者论坛

6,215

社区成员

5,980

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习技术论坛（原bbs）北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章