Ubuntu22.04 + MTT S80,上游 llama.cpp 主线开启 GGML_MUSA 编译持续报错,无法启用 GPU 推理
硬件:摩尔线程 MTT S80 系统:Ubuntu 22.04 x86_64 驱动 / MUSA SDK:官方稳定 RC 版本 需求:使用 llama.cpp 加载 GGUF 大模型,通过 MUSA 后端 GPU 加速推理
当前遇到的问题:
- 使用上游原版
ggml-org/llama.cpp(gitcode 国内镜像拉取主线代码),CMake 配置-DGGML_MUSA=ON进行编译; - 编译过程在
ggml/src/ggml-musa/编译环节失败,报错文件:argsort.cu、binbcast.cu,提示 cuda 移植代码存在语法 / 内核编译错误(mp_21 目标编译失败); - 多次更换 gcc-12 编译环境,问题依旧;上游主线自带的 ggml-musa 移植代码存在兼容性 Bug,无法正常编译。
尝试过的解决方案与障碍:
- 尝试使用摩尔线程官方 fork 仓库
mthreads/llama.cpp: 国内网络环境无法 clone GitHub 仓库,各类 ghproxy 代理全部超时 / 403,无法在线拉取源码; - 尝试官方
server-musaDocker 镜像: 宿主机已经完整安装 MT Container Toolkit,/etc/docker/daemon.jsonruntime 配置书写正确,但 docker info 始终识别不到mthreadsruntime,容器启动提示unknown runtime name:mthreads; - 尝试
mthreads/musaSDK 开发容器镜像: Docker Hub 国内网络连接超时,镜像无法拉取;
当前现状
只能编译 GGML_MUSA=OFF 的纯 CPU 版本 llama-server,CPU 算力不足以支撑业务并发; 想要启用 S80 GPU 加速推理,但缺少可直接编译通过的源码渠道。
咨询两点:
① 是否可以提供 mthreads/llama.cpp 修复 MUSA 编译问题源码的国内下载地址 / Gitee 镜像 / 离线压缩包;
除了官方 fork 仓库外,有无其他方式在当前环境编译出可用带 MUSA 后端的 llama.cpp。
恳请官方的技术大牛或者其他专家支援指导。谢谢!
相关推荐
基于AI大模型量化交易可信数据空间设计方案.pptx
基于AI大模型量化交易可信数据空间设计方案.pptx
【配电网规划】配电网N-1扩展规划研究(Matlab代码实现)
内容概要:本文聚焦于配电网N-1扩展规划问题,通过建立满足N-1安全准则的数学模型,并利用Matlab进行代码实现与仿真分析,系统研究了在单一元件故障情况下配电网的安全稳定运行能力。研究内容涵盖网络结构优化、设备选型与布局、潮流计算及可靠性评估等关键环节,提出了兼顾技术可行性与经济性的扩展规划方法。通过典型算例验证了所提方法在提升供电可靠性、降低负荷损失方面的有效性与实用性,为现代智能配电网的规划提供了理论支持和技术路径。; 适合人群:具备电力系统基础知识和Matlab编程能力的高校研究生、科研机构研究人员及从事电力系统规划工作的工程师。; 使用场景及目标:①为配电网规划人员提供符合N-1安全标准的扩展规划技术支持;②辅助教学与科研中关于电力系统可靠性和优化规划的学习与研究;③推动智能电网背景下配电系统向更高效、可靠方向发展。; 阅读建议:读者应结合文中提供的Matlab代码深入理解算法实现细节,同时参考相关电力系统分析理论书籍以加深对背景知识的理解,在实际应用时注意根据具体工程项目的特点调整模型参数。
集团化企业数字化转型WMS解决方案.pptx
集团化企业数字化转型WMS解决方案.pptx
【Agent技能开发】基于YAML与Markdown的SKILL.md语法规范:AI自动化任务触发与执行指令系统设计
内容概要:本文档为《Agent-Skills-SKILL.md-语法手册-中文.pdf》,详细介绍了基于YAML Frontmatter与Markdown正文构建AI技能(Skill)的标准规范。文档涵盖SKILL.md文件的整体结构、YAML元数据书写规则、字段含义、常用语法、正文指令格式、推荐模板、调用方式及错误排查方法,旨在帮助开发者遵循Agent Skills开放标准,创建可被AI自动识别与执行的技能模块。核心包括前后缀---包围的YAML头部元数据和后续的CommonMark正文,强调标准化命名、触发场景定义、输出格式一致性与示例完整性。; 适合人群:具备基本YAML与Markdown语法基础,从事AI代理开发、低代码/自动化流程设计的技术人员或研发工程师;尤其适用于参与TRAE IDE或Claude Code平台开发的团队成员。; 使用场景及目标:①规范AI技能的统一描述格式,提升跨平台兼容性;②实现技能的自动触发与精准调用,避免误用;③通过标准结构(如Objective、Instructions、Constraints等)增强AI理解与输出稳定性;④支持技能共享与复用,推动社区生态建设。; 阅读建议:建议结合实际项目创建SKILL.md文件,边学边练,重点注意name命名规范、description场景描述完整性、多行语法使用以及正反示例覆盖,严格按照自检清单排查常见错误,确保技能可被正确加载与执行。
游戏的资源-C1120
游戏的资源-C1120


