如何在高通设备上跑Stable Diffusion

prajina99 2024-01-24 13:41:57

基础模型是指在人工智能领域，尤其是自然语言处理（NLP）和计算机视觉（CV）等子领域中，通过大量数据训练的强大的预训练模型。这些基础模型被认为是构建各种具体AI应用的基础。

Stable Diffusion，一种非常喜闻乐见的基础模型，一种通过文章生成图片的生成的AI的模型，从它一诞生，它的高效率的图像生成能力，给人非常深的印象。差不多1B的模型参数，之前主要运行在云端，现在这里介绍如何在高通的手机端侧运行优化过的全栈stable diffusion.

具体的实现和操作步骤参见下面链接：

Qualcomm AI Stack Stable Diffusion Demo

...全文

431 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

《Stable Diffusion新手完整学习地图》课程简介：本课程是《stable diffusion 从入门到企业级实战》的引导课程，也是系统学习Stable Diffusion的入门课程。核心内容：Stable Diffusion体系结构Stable Diffusion工作流程Stable Diffusion开源框架Stable Diffusion核心功能Stable Diffusion精准控制Stable Diffusion模型微调学习收益：熟悉Stable Diffusion 体系结构熟悉Stable Diffusion 工作流程熟悉Stable Diffusion 开源框架熟悉Stable Diffusion 核心模块熟悉Stable Diffusion 精准控制：ControlNet熟悉Stable Diffusion 模型微调

点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达点击进入—>【扩散模型】微信技术交流群转载自：机器之心 |编辑：陈萍、小舟SpeedIs All You Need：谷歌提出针对 Stable Diffusion 一些优化建议，生成图片速度快速提升。Stable Diffusion 在图像生成领域的知名度不亚于对话大模型中的 ChatGPT。其能够在几十秒内为任何给定的...

基于隐空间的扩散模型 (Latent Diffusion Model)，是解决文本到图片生成问题上的颠覆者。Stable Diffusion 是最著名的一例，广泛应用在商业和工业。Stable Diffusion 的想法简单且有效: 从噪声向量开始，多次去噪，以使之在隐空间里逼近图片的表示。但是，这样的方法不可避免地增加了推理时长，使客户端的体验大打折扣。众所周知，一个好的 GPU 总能有帮助，确实如此，但其损耗大大增加了。就推理而言，在 2023 年上半年 (H1’23)，一个好 CPU 实例 (

高通全栈AI研究指跨应用、神经网络模型、算法、软件和硬件进行优化，并在公司内进行跨部门合作。上图为Stable Diffusion利用文本提示：“野外河谷和山脉间的日式花园，高细节，数字插图，ArtStation，概念艺术，磨砂，锐聚焦，插图，戏剧性的，落日，炉石，artgerm、greg rutkowski和lphonse mucha的艺术作品”生成的图像。高通AI软件栈将最优秀的AI软件产品集合到一个软件包中，帮助OEM厂商和开发者在高通产品上创建、优化和部署其AI应用，充分利用高通AI引擎的性能。

近日，谷歌发表的一篇论文中《 Speed Is All You Need: On-Device Acceleration of Large Diffusion Models via GPU-Aware Optimizations 》，他们实现了在 GPU 驱动的设备上运行 Stable Diffusion 1.4 ，达到 SOTA 推理延迟性能（在三星 S23 Ultra 上，通过 20 次迭代生成 512 × 512 的图像仅需 11.5 秒）。该研究提出两种优化方法，以缓解计算瓶颈 whaosoft

Qualcomm 开发者论坛

955

社区成员

5,251

社区内容

发帖

与我相关

我的任务

人工智能物联网机器学习企业社区北京·东城区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章