骁龙 AI PC 上如何做本地 AI 应用的日志埋点，方便后续问题定位？

[康康是那个小坏蛋]

骁龙 AI PC 上如何做本地 AI 应用的日志埋点，方便后续问题定位？
 

[weixin_38498942]

本地 AI 应用建议至少记录输入、推理、输出、异常四个环节。

1. 记录输入信息

logger.info("input shape: %s, dtype: %s", input.shape, input.dtype)

2. 记录推理耗时

start = time.time()
output = model.generate(prompt)
logger.info("inference time: %.2f ms", (time.time() - start) * 1000)

3. 记录输出结果

logger.info("output length: %d", len(output))

4. 记录异常栈

try:
    run_inference()
except Exception as e:
    logger.exception("inference failed: %s", e)

5. 日志落盘

logging.basicConfig(filename="app.log", level=logging.INFO)