永逺的第一天 2026-02-14 17:48:05
MUSA SDK目前不支持ARM架构吗?比如飞腾d2000
...全文
62 3 打赏 收藏 转发到动态 举报
写回复
用AI写文章
3 条回复
切换为时间正序
请发表友善的回复…
发表回复
沸腾的CPU 02-26 16:08
  • 打赏
  • 举报
回复

纯cpu跑是不是也这个token值,估计就没有加速

永逺的第一天 02-26 16:10
  • 举报
回复
@沸腾的CPU 纯飞腾cpu跑这个模型,是不到1token/s……
永逺的第一天 02-14 20:20
  • 打赏
  • 举报
回复
如果没有arm架构的musa sdk,我直接llama.cpp通过vulkan部署大模型可行吗?

249

社区成员

发帖
与我相关
我的任务
社区描述
摩尔线程成立于 2020 年 10 月,以全功能 GPU 为核心,致力于向全球提供加速计算的基础设施和一站式解决方案,为各行各业的数智化转型提供强大的 AI 计算支持。 我们的目标是成为具备国际竞争力的 GPU 领军企业,为融合人工智能和数字孪生的数智世界打造先进的加速计算平台。我们的愿景是为美好世界加速。
企业社区
社区管理员
  • 摩尔线程
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧