S50 显卡 + 麒麟V10 SP1 + 海光C86 CPU，要做 LLM 模型加载和推理计算，如何安装驱动和sdk

finger1989 2026-08-21 16:44:39

S50 显卡 + 麒麟V10 SP1 + 海光C86 CPU，要做 LLM 模型加载和推理计算，如何安装驱动和sdk

...全文

127 1 打赏收藏举报

写回复

1 条回复

切换为时间正序

请发表友善的回复…

发表回复

摩尔线程开发者 08-24 17:59

打赏
举报

回复

先确认麒麟 V10 SP1 的内核版本，再选择匹配的 S50 驱动、MUSA SDK 和 torch_musa 推理镜像

全网最详细的BigDL-LLM在iGPU下的安装指南，还有一些踩坑经验~ iGPU内存可以是动态随机存储器（DRAM）或静态随机存储器（SRAM）类型，DRAM类型的iGPU内存可以被访问和修改，而SRAM类型的iGPU内存速度更快，但容量通常较小且不可修改。iGPU内存的容量通常取决于使用的处理器型号和制造商，例如英特尔的iGPU内存容量通常在1GB到2GB之间，而AMD的iGPU内存容量则较高，通常在2GB到8GB之间。

本文介绍了如何在星图GPU平台上自动化部署AI 写作大师 - Qwen3-4B-Instruct镜像，支持国产信创环境（麒麟OS+海光CPU）下的纯CPU推理。该镜像可高效完成Python代码生成、技术文档撰写等复杂文本生成任务，适用于企业内部AI写作平台、自动化报告生成等典型场景。

破解国产信创适配难题，详解Dify企业级私有化部署架构2026最新趋势。聚焦Dify v1.4.2在麒麟V10+海光C86环境的7层穿透部署链，覆盖内核兼容、容器调度、安全审计等关键环节，实现高可用、强合规、低延迟落地。值得收藏

在本文中，我们将演示如何使用Intel OpenVINO™ C++ API 部署YOLOv10目标检测模型，并使用 OpenVINO™ 异步推理接口实现模型推理加速。下面看一下YOLOv10模型在OpenVINO™上的运行效果吧

本文介绍了安装WSL2、Ubuntu、NVIDIA显卡驱动、CUDA 12.4.1、cuDNN的方法及Xinference、vLLM、SGLang等推理框架的部署使用方法。本文适用于NVIDIA显卡用户，建议GPU架构为Turing或更新（对应RTX 20系或以上）。

297

社区成员

159

社区内容

发帖

与我相关

我的任务

企业社区

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章