WoS上支持运行 DeepSeek R1:8b模型吗?有相关指导提供吗?

旺仔QQq糖 2025-03-13 12:01:25

WoS上支持运行 DeepSeek R1:8b模型吗?有相关指导提供吗?

...全文
450 2 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
chipseeker 03-14
  • 打赏
  • 举报
回复

你可以参考这个文档,目前在NPU上可以跑DeepSeek-R1-Distill-Qwen-1.5B /DeepSeek-R1-Distill-Qwen-7B /DeepSeek-R1-Distill-Qwen-14B
https://blogs.windows.com/windowsdeveloper/2025/01/29/running-distilled-deepseek-r1-models-locally-on-copilot-pcs-powered-by-windows-copilot-runtime/

你也可以尝试第三方的AnythingLLM, LLM Provider选择Qualcomm QNN,目前支持DeepSeek-R1-Distil llama_v3_2_3b or llama_v3_2_3b

  • 打赏
  • 举报
回复

3,773

社区成员

发帖
与我相关
我的任务
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成,为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页:https://qualcomm.csdn.net/
人工智能物联网机器学习 技术论坛(原bbs) 北京·东城区
社区管理员
  • csdnsqst0050
  • chipseeker
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧