在 Snapdragon 平台上使用 Qualcomm AI Engine Direct 部署 Stable Diffusion 模型，生成一张 512×512 的图需要多久？有哪些优化手段？

[JAVA猫爷]

在 Snapdragon 平台上使用 Qualcomm AI Engine Direct 部署 Stable Diffusion 模型，生成一张 512×512 的图需要多久？有哪些优化手段？

[weixin_38498942]

在 Snapdragon 8 Gen 3 等旗舰平台上，经过 INT8/FP16 量化后，单张 512×512 生图约 10-20 秒。优化手段包括：
1）使用 QNN HTP backend 将 UNet 部分卸载到 NPU；
2）对 VAE 和 CLIP 文本编码器用 GPU 推理；
3）减少扩散步数（如从 50 步降到 20 步配合高级采样器）；
4）使用 Distilled 版本的模型进一步缩减推理步骤。