autodl中租用摩尔线程S4000无法使用docker,llama.cpp也无法正常编译。

YoRHa_Nier_2b 2025-06-12 14:26:19

询问autodl客服,当前实例已经是docker环境,无法在实例环境中再次使用docker,所以使用无法使用常规的ollama进行模型调用,后尝试llama.cpp进行,但仍然出现无法编译的问题。

 IOMMU也是disable状态。

请问是否有在autodl上租用摩尔线程S4000部署大模型的操作文档。

...全文
36 回复 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复

168

社区成员

发帖
与我相关
我的任务
社区描述
摩尔线程成立于 2020 年 10 月,以全功能 GPU 为核心,致力于向全球提供加速计算的基础设施和一站式解决方案,为各行各业的数智化转型提供强大的 AI 计算支持。 我们的目标是成为具备国际竞争力的 GPU 领军企业,为融合人工智能和数字孪生的数智世界打造先进的加速计算平台。我们的愿景是为美好世界加速。
企业社区
社区管理员
  • 摩尔线程
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧