高通 AI PC 外接工业采集卡，同步运行 AI 图像分析程序，采集卡数据流抢占 NPU 带宽导致推理帧率暴跌，如何做硬件带宽隔离调度？

[红啵啵]

高通 AI PC 外接工业采集卡，同步运行 AI 图像分析程序，采集卡数据流抢占 NPU 带宽导致推理帧率暴跌，如何做硬件带宽隔离调度？
 

[weixin_38498942]

完整隔离优化方案
数据流传输分层分流
将采集卡原始图像缓存至 CPU 本地内存，预处理完成后再向 NPU 传输张量，切断原始大流量数据流直连 NPU 通道，Python 数据流调度示例：

import threading
from queue import Queue
# 双缓冲队列分流，采集、预处理、推理解耦
raw_frame_queue = Queue(maxsize=15)
preprocess_frame_queue = Queue(maxsize=8)# 采集线程：仅写入CPU缓存，不占用NPU总线def capture_thread():while True:
        raw_img = capture_card.read_frame()
        raw_frame_queue.put(raw_img)# 预处理线程：缩放、归一化压缩图像尺寸，降低传输带宽def preprocess_thread():while True:
        img = raw_frame_queue.get()
        small_img = compress_resize(img, 640, 640)
        preprocess_frame_queue.put(small_img)# 推理线程：仅传输压缩后张量，大幅减少总线占用def infer_thread():while True:
        frame = preprocess_frame_queue.get()
        result = qnn_session.run(frame)

平台总线带宽优先级配置
调用高通 PC 算力调度 API，将 NPU 推理总线通道设置为最高优先级，限制采集卡传输带宽上限：

// 设置NPU总线访问最高优先级platform_set_bus_priority(QNN_BUS, PRIORITY_HIGHEST);// 限制采集卡PCIe带宽峰值，避免占满总线platform_limit_device_bandwidth(ACQUISITION_CARD, 150MB/s);
图像批量聚合传输
 采集卡单帧高频传输改为多帧聚合批量推送，减少总线频繁读写次数，降低带宽争抢频次。
硬件资源进程绑定
 将 AI 推理进程绑定专属 CPU 核心与 NPU 算力分区，采集卡驱动进程限制至低优先级核心，实现硬件资源物理隔离。
参考资料
高通骁龙 AI PC 硬件调度开发手册《PCIe & Heterogeneous Bus Resource Management》
CSDN 技术专栏文章《AI PC 多外设并发视觉任务带宽抢占问题根治方案》