询问autodl客服,当前实例已经是docker环境,无法在实例环境中再次使用docker,所以使用无法使用常规的ollama进行模型调用,后尝试llama.cpp进行,但仍然出现无法编译的问题。
IOMMU也是disable状态。
请问是否有在autodl上租用摩尔线程S4000部署大模型的操作文档。
168
社区成员
83
社区内容
加载中
试试用AI创作助手写篇文章吧