Ubuntu22.04 + MTT S80,上游 llama.cpp 主线开启 GGML_MUSA 编译持续报错,无法启用 GPU 推理

老牛马宏 2026-07-21 17:54:31

硬件:摩尔线程 MTT S80 系统:Ubuntu 22.04 x86_64 驱动 / MUSA SDK:官方稳定 RC 版本 需求:使用 llama.cpp 加载 GGUF 大模型,通过 MUSA 后端 GPU 加速推理

当前遇到的问题:

  1. 使用上游原版 ggml-org/llama.cpp(gitcode 国内镜像拉取主线代码),CMake 配置 -DGGML_MUSA=ON 进行编译;
  2. 编译过程在 ggml/src/ggml-musa/ 编译环节失败,报错文件: argsort.cu、binbcast.cu,提示 cuda 移植代码存在语法 / 内核编译错误(mp_21 目标编译失败);
  3. 多次更换 gcc-12 编译环境,问题依旧;上游主线自带的 ggml-musa 移植代码存在兼容性 Bug,无法正常编译。

尝试过的解决方案与障碍:

  1. 尝试使用摩尔线程官方 fork 仓库 mthreads/llama.cpp: 国内网络环境无法 clone GitHub 仓库,各类 ghproxy 代理全部超时 / 403,无法在线拉取源码;
  2. 尝试官方 server-musa Docker 镜像: 宿主机已经完整安装 MT Container Toolkit,/etc/docker/daemon.json runtime 配置书写正确,但 docker info 始终识别不到mthreads runtime,容器启动提示unknown runtime name:mthreads;
  3. 尝试 mthreads/musa SDK 开发容器镜像: Docker Hub 国内网络连接超时,镜像无法拉取;

当前现状

只能编译 GGML_MUSA=OFF 的纯 CPU 版本 llama-server,CPU 算力不足以支撑业务并发; 想要启用 S80 GPU 加速推理,但缺少可直接编译通过的源码渠道。

咨询两点:

① 是否可以提供 mthreads/llama.cpp 修复 MUSA 编译问题源码的国内下载地址 / Gitee 镜像 / 离线压缩包;
 除了官方 fork 仓库外,有无其他方式在当前环境编译出可用带 MUSA 后端的 llama.cpp。

恳请官方的技术大牛或者其他专家支援指导。谢谢!

 

...全文
294 回复 打赏 收藏 举报
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复
内容概要:本文基于Matlab/Simulink平台,对电励磁同步电机在异步牵入、稳态运行及能耗制动三个阶段的全周期动态特性进行建模仿真与系统研究。研究构建了完整的电机数学模型与仿真系统,重点分析了电机从异步启动到同步运行的过渡过程、稳态运行时的电磁与机械性能,以及执行能耗制动时的减速特性与能量耗散机理。通过仿真,揭示了励磁电流、负载转矩与转速在不同工况下的动态响应规律与耦合关系,为电机的控制策略设计与性能优化提供了理论依据和数据支持。; 适合人群:具备电机学、电力电子与电力拖动基础知识的电气工程及相关专业的研究生、科研人员与工程技术人员。; 使用场景及目标:①研究电励磁同步电机的启动特性,解决异步牵入过程不稳定或失败的问题;②分析电机在不同负载下的稳态运行性能,优化运行效率;③设计和验证能耗制动策略,精确控制制动过程的减速时间和能量消耗。; 阅读建议:在学习过程中,应结合电机的基本原理,深入理解仿真模型中各模块(如电机本体、励磁控制、负载模型)的搭建逻辑,并通过调整仿真参数(如励磁电压、负载大小)来观察和分析系统动态响应,以加深对电机全周期运行特性的理解。
内容概要:通过介绍短时倒谱(Cepstrogram)计算方法,开展时-倒频分析研究,深入探讨倒谱分析机理、短时倒谱构建逻辑及时-倒频分析的内涵。文中系统对比了时-倒频分析与全局倒谱、传统时频分析方法的差异,阐明其在卷积特征解耦、非平稳信号跟踪、微弱周期特征增强及多维特征融合方面的技术优势,并分析其在语音识别、机械故障诊断、音频处理和非平稳时序信号分析中的典型应用,同时指出其在分辨率、计算复杂度等方面的局限性并提出优化方向。; 适合人群:具备一定信号处理或数据分析基础,从事机械、通信、声学或自动化等领域研究的研发人员及研究生。; 使用场景及目标:① 掌握短时倒谱与时-倒频分析的理论基础与实现方法;② 应用于语音信号处理、机械设备故障诊断、音频相似性检测等工程实践;③ 对比传统方法,提升对复杂非平稳信号中隐含周期特征的识别能力; 阅读建议:此资源以Matlab代码实现为核心,强调理论与实践结合,建议读者在理解核心算法原理的基础上,动手运行代码并调试参数,结合具体应用场景深化对方法适用性与局限性的认识。

297

社区成员

发帖
与我相关
我的任务
社区描述
摩尔线程成立于 2020 年 10 月,以全功能 GPU 为核心,致力于向全球提供加速计算的基础设施和一站式解决方案,为各行各业的数智化转型提供强大的 AI 计算支持。 我们的目标是成为具备国际竞争力的 GPU 领军企业,为融合人工智能和数字孪生的数智世界打造先进的加速计算平台。我们的愿景是为美好世界加速。
企业社区
社区管理员
  • 摩尔线程开发者
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧