摩斯大模型方向论文成功进入AAAI顶会前4.6%

蚂蚁摩斯隐私计算论坛 2025-03-18 09:59:46

继摩斯大模型跨域微调方向论文被顶级会议AAAI录取后,在被顶会录取的13000个投稿中,成功进入前4.6%,获得2025AAAI oral presentation资格。来自摩斯的代表,于近日在费城完成演讲。

 

image.png

摩斯的代表分析了当前离线调优方法所存在的问题,现场介绍了跨域微调大模型隐私保护训练方法,和摩斯基于此背景提出的ScaleOT框架。

这种新的大模型跨域微调算法,设计了重要性感知的动态层替换模型压缩方法,有效攻克了在仿真器生成时计算复杂度高、模型隐私安全性不足等难题,为大模型隐私微调方向提供了新颖的思路与解决方案。ScaleOT框架是一种新颖的隐私效用可扩展离线调优框架,能够有效平衡隐私性和效用性,实现生产级可用。

 

9cbd68e21fd50a955642d003589dd75f.jpg

 论文地址:https://arxiv.org/pdf/2412.09812

 

这一全新的大模型隐私微调算法,已在摩斯大模型隐私安全产品上线,产品融合了数据脱敏、拆分学习、模型混淆、差分隐私、TEE等多种技术路线,实现大模型落地应用中的模型微调、推理全链路数据和模型隐私安全保护。

同时,摩斯还提供大模型算力和行业大模型服务;支持TEE GPU云服务和一体机方案;支持开源通用大模型,支持deepseek满血版,以及法律大模型、金融大模型、营销大模型等行业大模型在线加密调用。

欢迎各行业生态伙伴进行合作咨询!!

关注我,获取更多资讯~

...全文
612 回复 打赏 收藏 转发到动态 举报
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复
内容概要:本文深入探讨了DMA高效数据传输实现方案在高性能计算芯片领域的应用与架构创新,重点分析了缓存一致性DMA、多通道DMA架构及其在数据中心SmartNIC、存算一体芯片和Chiplet互连等场景中的实践。文章结合RISC-V架构,通过Chisel硬件描述语言和C语言驱动代码,展示了多通道DMA控制器的设计与实现,涵盖仲裁机制、AXI总线适配、分散-聚集传输模式及中断处理等核心技术,并强调了性能优化与验证方法。最后展望了AI调度、光互连、近存计算与安全DMA等未来发展方向。; 适合人群:具备数字电路与计算机体系结构基础,从事芯片设计、嵌入式开发或高性能计算相关工作的研发人员,尤其是有1-5年经验的工程师与研究人员。; 使用场景及目标:①理解DMA在突破“内存墙”和降低系统能耗中的关键技术路径;②掌握多通道DMA控制器的硬件设计与驱动开发方法;③应用于SmartNIC、AI加速器、Chiplet等高性能芯片系统的数据传输架构设计;④为构建高带宽、低延迟、高能效的异构计算平台提供参考。; 阅读建议:此资源融合硬件设计与软件驱动,建议结合Chisel仿真与RISC-V平台实操,重点关注DMA与缓存一致性、异构计算单元的协同机制,并通过性能计数器与错误注入手段进行系统级验证。

17,134

社区成员

发帖
与我相关
我的任务
社区描述
Oracle开发相关技术讨论
社区管理员
  • 开发
  • Lucifer三思而后行
  • 卖水果的net
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧