海光+麒麟 SDK和docker镜像适配

2501_93284416 2025-10-17 10:52:21

请问各位大佬，海光+麒麟系统的SDK会更新吗？现在最新只支持4.0.1，而intel平台已经到4.3，没办法体验新功能。同时Docker提供的镜像环境也没有对应能直接使用的，都会存在驱动不匹配导致的import torch_musa失败的问题，请问这个能解决吗？

...全文

74 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

x86架构，nacos镜像，亲测可用

中标麒麟桌面操作系统软件（兆芯版）V7.0（Build61）中标麒麟桌面操作系统软件（龙芯版）V7.0（B54）中标麒麟高级服务器操作系统软件（海光版）V7.0 中标麒麟高级服务器操作系统软件V7.0U6 中标麒麟高级服务器操作系统（ARM64版）V7.0 （B06.08）

国产系统，中标麒麟 v7.4(v7_update4) 64位，系统iso镜像

在银河麒麟4.0.2上，或者ubuntu16.04上离线安装显卡驱动、docker-ce、nvidia-docker的自动脚本。压缩包中缺少nvidia的驱动文件，需要自己到官网下载，我使用的是410.79，如果是其他版本驱动，需要修改一下脚本头上的变量值。

内容概要：本文档是关于海光 DCU DeepSeek-R1/V3部署指南，发布于2025年5月9日。DeepSeek-R1和 DeepSeek-V3是深度求索公司开发的高性能自然语言处理模型，前者专注于复杂逻辑推理任务，后者为通用NLP模型。文档详细介绍了在海光 DCU上部署 DeepSeek推理环境所需的步骤，包括基础环境依赖安装（如 DCU驱动和 Docker安装）、模型下载方式（推荐三种下载渠道：SCNet超算互联网、Huggingface、Modelscope）、不同型号 DCU的推理环境部署（针对 K100AI和 Z100/K100系列，使用 vllm、ollama、Pytorch框架）、以及 Webui+server可视化交互部署。此外，还提供了详细的命令行示例和环境变量设置说明。适合人群：具备一定Linux系统管理和深度学习框架使用经验的IT技术人员或运维人员，特别是从事自然语言处理和AI模型部署的相关人员。使用场景及目标：①为用户提供详细的步骤指导，确保在海光 DCU上顺利部署 DeepSeek模型；②帮助用户理解各个框架（vllm、ollama、Pytorch）的具体配置和使用方法；③提供模型下载和环境变量设置的详细说明，确保模型能够高效运行；④通过可视化交互工具（如 Anythingllm和 DCU智能助手），提升用户体验和操作便捷性。其他说明：文档附带了丰富的参考链接，涵盖了从基础环境搭建到高级模型推理的各个方面，为用户提供全面的技术支持。同时，文档提供了多种模型下载渠道和预配置的 Docker镜像下载链接，便于用户快速获取所需资源。

207

社区成员

106

社区内容

发帖

与我相关

我的任务

企业社区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章