摩斯大模型方向论文成功进入AAAI顶会前4.6%

蚂蚁摩斯隐私计算论坛 2025-03-24 17:46:31

继摩斯大模型跨域微调方向论文被顶级会议AAAI录取后,在被顶会录取的13000个投稿中,成功进入前4.6%,获得2025AAAI oral presentation资格。来自摩斯的代表,于近日在费城完成演讲。

 

image.png

摩斯的代表分析了当前离线调优方法所存在的问题,现场介绍了跨域微调大模型隐私保护训练方法,和摩斯基于此背景提出的ScaleOT框架。

这种新的大模型跨域微调算法,设计了重要性感知的动态层替换模型压缩方法,有效攻克了在仿真器生成时计算复杂度高、模型隐私安全性不足等难题,为大模型隐私微调方向提供了新颖的思路与解决方案。ScaleOT框架是一种新颖的隐私效用可扩展离线调优框架,能够有效平衡隐私性和效用性,实现生产级可用。

 

9cbd68e21fd50a955642d003589dd75f.jpg

 论文地址:https://arxiv.org/pdf/2412.09812

 

这一全新的大模型隐私微调算法,已在摩斯大模型隐私安全产品上线,产品融合了数据脱敏、拆分学习、模型混淆、差分隐私、TEE等多种技术路线,实现大模型落地应用中的模型微调、推理全链路数据和模型隐私安全保护。

同时,摩斯还提供大模型算力和行业大模型服务;支持TEE GPU云服务和一体机方案;支持开源通用大模型,支持deepseek满血版,以及法律大模型、金融大模型、营销大模型等行业大模型在线加密调用。

欢迎各行业生态伙伴进行合作咨询!!

关注我,获取更多资讯~

...全文
384 回复 打赏 收藏 转发到动态 举报
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复
本系统提出了一套面向MRI全心脏分割任务的端到端深度学习解决方案,其核心创新在于将Swin Transformer作为编码器骨干网络,充分挖掘心脏MRI图像中的全局上下文信息与局部细节特征,同时引入4通道输入机制,在传统RGB三通道图像基础上额外拼接一个点提示编码通道,支持用户通过鼠标交互在图像上自由标注前景(心脏区域)与背景点,从而将先验空间信息显式地融入网络前向传播过程,实现基于稀疏标注引导的精准分割。在解码阶段,系统采用U型对称结构,通过逐步上采样与跳跃连接逐级恢复特征图分辨率,最终输出二值分割掩膜(前景/背景),有效区分心脏区域与其他组织。训练过程中,系统选用交叉熵损失函数,配合AdamW优化器与余弦退火学习率调度策略,确保模型在训练集和验证集上稳定收敛,并在每个epoch结束后自动计算全局像素准确率、平均交并比(mIoU)、平均Dice系数、平均精确率、平均召回率及平均F1分数等多项评估指标,全方位监控模型性能。系统内置了完整的训练日志保存、损失曲线与性能曲线绘制、学习率衰减可视化等功能模块,便于用户直观分析训练过程并调优超参数。在推理应用层面,系统封装了基于Tkinter框架的图形化交互界面,用户可上传任意MRI切片图像,通过鼠标左键/右键分别添加前景/背景点,点击“执行分割”按钮后即可实时生成叠加了红色半透明掩膜的分割结果图像,支持点集的增删与重置操作,交互响应灵敏,操作逻辑直观清晰。整体而言,本系统不仅实现了从多模态数据加载、交互式标注编码、基于Transformer的分割建模到图形化推理部署的全链路覆盖,更在算法层面通过点提示引导机制与Swin Transformer结构的高效结合,显著降低了对大规模标注数据的依赖,同时提升了模型对心脏边界模糊、形态变异及邻近组织干扰的鲁棒性,为心血管疾病的计算机辅助诊断、术前规划及定量分析提供了一种兼具精度与灵活性的智能

15,084

社区成员

发帖
与我相关
我的任务
社区描述
首先,欢迎铁汁的加入,这里是非科班转码的大家庭,当然也是科班码农的栖息地,在这里我们可以一起讨论学习的经验,明确学习的方向,分享自己的日常,在接下来的日子里,我们将结伴同行,圆梦大厂。
社区管理员
  • 原来45
  • jxwd
  • 乔乔家的龙龙
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告

1.社区的核心使命:为非科班的朋友们创建一个良好的学习环境。

2.社区的注意事项:不能传播非法文章。

 

试试用AI创作助手写篇文章吧