7,651
社区成员
发帖
与我相关
我的任务
分享IoT 智能门锁骁龙模组部署人脸轻量化识别模型,休眠唤醒后首次推理耗时暴涨 3 倍,是什么机制造成,该怎么优化?
耗时暴涨原理
模组休眠时 Hexagon DSP、NPU 电源被切断,唤醒后需要重新上电、初始化固件、重建模型运行环境;
模型权重休眠时被系统回收至闪存,唤醒后需要重新从 Flash 加载权重至 DSP 内存,IO 耗时巨大。
优化手段
采用浅休眠策略:门锁待机时保留 DSP 最低供电,仅关闭传感器、基带模块,避免 NPU 完全断电;
唤醒预加载机制:唤醒瞬间提前异步加载模型权重至 DSP 内存,用户抬手靠近门锁完成预加载;
模型权重存放至模组高速 SRAM 分区,加快读取速度。
唤醒预加载伪代码
plaintext
if infrared_human_detect():
async_thread(pre_load_model_weight()) # 后台预加载模型
open_sensor_delay(200ms) # 延迟开启摄像头,留出加载时间