摩斯营销科技大模型方向论文被顶会AAAI录用

蚂蚁摩斯隐私计算论坛 蚂蚁摩斯隐私计算论坛 墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年,写一次发全网 我也要 + 加入社区

近日,国际人工智能顶级学术会议AAAI 2025放榜,摩斯团队在大模型隐私微调方向论文被该会议录用!

要让大模型适应各不一样的下游任务,微调必不可少。常规的中心化微调过程需要模型和数据存在于同一位置 —— 要么需要数据所有者上传数据(这会威胁到数据所有者的数据隐私),要么模型所有者需要共享模型权重(这又可能泄露自己花费大量资源训练的模型)。此外,在第二种情况下,模型的参数可能暴露,这可能会增加其微调模型受到攻击的可能性。这些问题都可能阻碍 LLM 的长期发展。

为了有效地保护模型所有权和数据隐私,浙江大学、蚂蚁数科、利物浦大学和华东师范大学的朱建科与王维团队提出了一种全新的跨域微调(offsite-tuning)框架:ScaleOT。该框架可为模型隐私提供多种不同规模的有损压缩的仿真器,还能促进无损微调(相比于完整的微调)。该研究论文已被人工智能顶会 AAAI 2025 录用。第一作者为姚凯(蚂蚁摩斯高级算法工程师,浙大博后),通讯作者为朱建科教授与王维老师。

 

图片

  • 论文标题:ScaleOT: Privacy-utility-scalable Offsite-tuning with Dynamic LayerReplace and Selective Rank Compression

  • 论文地址:https://arxiv.org/pdf/2412.09812

 

原生跨域微调的不足之处

 

如下图 2(b) 所示,跨域微调(OT)不是使用完整的模型进行训练,而是允许数据所有者使用模型所有者提供的有损压缩仿真器进行微调,但这种范式有个缺点:会让数据所有者得到的仿真器的性能较差。然后,训练得到的适配器会被返回给模型所有者,并被插入到完整模型中,以创建一个高性能的微调模型。特别需要指出,数据所有者和模型所有者端之间的模型性能差异是模型隐私的关键因素,这会促使下游用户使用微调的完整模型。

 

图片

因此,跨域微调的主要难题在于高效压缩 LLM,通过在维持性能差异的同时提升微调的完整模型,从而实现对模型隐私的保护。

遵循跨域微调策略,原生 OT 方法采用的策略是 Uniform LayerDrop(均匀层丢弃),从完整模型中均匀地删除一部分层,如图 3(a)所示。

 

图片

图 3:分层压缩策略比较。(a)Uniform LayerDrop;(b)带估计的重要性分数的 Dynamic LayerDrop;(c)带协调器的 Dynamic LayerReplace;(d)使用不同压缩比的结果。新方法在所有者端实现了更好的性能,同时保持了性能差异。

然而,尽管大型模型中的许多参数是冗余的,但每层的重要性差异很大,这种均匀删除可能会导致适应后的完整模型的性能下降。此外,直接的层删除会导致被删除层的输入和输出隐藏空间之间错位,这也会导致所有者端的性能下降。虽然知识蒸馏可以缓解这个问题,但训练一个所需的仿真器的成本至少是 LLM 大小的一半,这意味着巨大的训练成本为提供具有不同压缩比的仿真器带来了重大缺陷。

 

摩斯ScaleOT跨域微调方案的独特之处

 

如上图 2 (c) 所示,该框架由两个阶段组成:重要性估计和仿真器生成。

对于第一阶段,摩斯团队提出了一种基于重要性感知型层替换的算法 Dynamic LayerReplace,该算法需要使用一种强化学习方法来确定 LLM 中每一层的重要性。同时,对于不太重要的层,动态选择并训练一组可训练的协调器作为替代,这些协调器是轻量级网络,可用于更好地实现剩余层的对齐。

在第二阶段,根据学习到的重要性得分,可将原始模型层及其对应的协调器以各种方式组合到一起,从而得到仿真器(emulator),同时还能在模型所有者端维持令人满意的性能,如图 3 (d) 所示。

他们根据实践经验发现,如果使用秩分解来进一步地压缩剩余的模型层,还可以更好地实现隐私保护,同时模型的性能下降也不会太多。基于这一观察,摩斯团队提出了选择性秩压缩(SRC)方法。

摩斯团队进行了大量实验,涉及多个模型和数据集,最终证明新提出的方法确实优于之前的方法,同时还能调整压缩后仿真器模型的大小以及 SRC 中的秩约简率。因此,这些新方法的有效性和可行性都得到了验证。

 

总结起来,摩斯团队的这项研究做出了三大贡献:

  • 提出了一种灵活的方法,可为跨域微调得到多种大小的压缩版模型:提出了一种重要性感知型有损压缩算法 Dynamic LayerReplace,该算法面向使用 LLM 的跨域微调,可通过强化学习和协调器来扩展仿真器。这些组件可以实现灵活的多种规模的压缩模型生成。

  • 仅需一点点微调性能下降,就能通过进一步的压缩获得更好的隐私:新提出的选择性秩压缩策略仅需少量性能损失就能进一步提升模型隐私。

  • 全面的实验表明,新提出的 ScaleOT 优于当前最佳方法。

 

这种新的大模型跨域微调算法,设计了重要性感知的动态层替换模型压缩方法,有效攻克了在仿真器生成时计算复杂度高、模型隐私安全性不足等难题,为大模型隐私微调方向提供了新颖的思路与解决方案。  

 

这一全新的大模型隐私微调算法,现已融入摩斯大模型隐私保护产品。该产品融合多种技术路线,实现大模型落地应用中的模型微调、推理全链路数据和模型隐私保护,并成为首批通过信通院大模型可信执行环境产品专项测试的产品之一。目前摩斯大模型隐私保护产品已在银行、证券等多个行业落地推进中。在某银行农业助贷场景,利用摩斯的大模型隐私保护技术融合多方时空大数据,共建“密态时空大模型”,进行行内农户贷款风险评估,进一步提升种植户金融放款效率和满意度。

 

摩斯营销科技持续创造行业价值

 

目前摩斯隐私计算产品已在上百家银行等金融机构部署使用,全行业已部署300多家,建立以隐私计算节点网络连接的资源网络,包含数据源和流量场景的资源网络。在营销场景下,可以帮助企业实现公私域客群安全打通,帮助企业制定全生命周期的客群经营增长策略。  

  • 在金融机构营销场景,摩斯通过隐私计算技术,可以打通机构公私域客群,进行客群一体化分析;通过多方资源连接,共建密态模型,进行用户洞察分析,帮助机构制定拉新、促活、召回全生命周期客群经营增长策略;通过摩斯营销平台连接支付宝、饿了么等数十个流量平台,帮助机构进行自助化、智能化营销投放。

  • 针对银行卡用户,我们提供全生命周期的营销服务,在发卡、绑卡、促活等各阶段,采用隐私计算技术安全合规使用多方数据来实现精准营销。

 

未来,摩斯也将持续投入隐私智能领域,在大模型安全、互联互通等技术难题上持续突破,并通过摩斯隐私计算产品安全连接全渠道分布式的流量场景平台、数据源等,助力数据安全流通与价值释放,提升客群分析与精准营销服务能力。

 

关注我,获取更多资讯~

...全文

相关推荐

A Survey of LLM Negotiation and Bargaining Agents |LLM谈判与议价智能体综述 |arxivreview

# A Survey of LLM Negotiation and Bargaining Agents |LLM谈判与议价智能体综述 |arxivreview 综述原文见 [ArxivReview](https://www.arxivreview.com/surveys/LLM%20Negotiation%20and%20Bargaining%20Agents) ## 导读 大语言模型(LLM)谈判智能体正经历从语言模拟向经济理性的范式跃迁,其核心矛盾在于人类对齐训练带来的亲社会偏见与博弈论要求的最优策略之间的冲突。早期研究聚焦于自然语言生成的流畅性,但NegotiationArena等基准迅速揭示了模型在策略推理上的系统性缺陷,如锚定偏差与过度合作。为修正这些非理性行为,研究重心转向可验证奖励强化学习(RLVR),利用客观经济信号替代主观人类偏好,显著提升了剩余提取能力。与此同时,情感策略蒸馏与机制可解释性分析作为互补路线,分别解决了边缘部署中的能力缺失与偏差的神经基础问题。各路线在策略理性、部署效率与可解释性之间做出了不同取舍,由此形成当前多元并存的方法格局。本综述梳理这条从行为优化到机制理解的因果演进链条,为读者提供一张领域认知地图。全文按问题演化与路线取舍组织,覆盖该领域从奠基到当前的主要工作。 ## 1. 研究背景、问题结构与演进脉络 LLM谈判与议价智能体领域的兴起,源于大语言模型从静态文本生成向自主智能体(Autonomous Agents)的范式转变。早期研究如Lewis et al. (2017)提出的DealOrNoDeal和He et al. (2018)的CraigslistBargain,局限于基于规则或简单神经网络的文本谈判协议,缺乏对复杂策略推理和自然语言说服力的建模。这些工作确立了基于对话历史的策略生成与语言生成分离的早期架构,但仅

Jessica Zhan

typora编辑器 markdown Mac版本

typora编辑器 markdown Mac版本

沫离痕

数据挖掘实战项目-从零实现决策树、朴素贝叶斯、KMeans与PCA,含清洗特征评估全流水线,33个源文件8457行

内容概要:190 页项目教程 + 一套从零实现的数据挖掘算法库与流水线,按源文件交付 33 个模块:数据集读取与 schema 校验、清洗(缺失填充、去重、IQR/Z-score 异常值、类别编码)、特征工程(标准化、分箱、多项式、方差/相关/卡方选择)、切分与分层 K 折交叉验证、CART 决策树(基尼、连续特征二分、剪枝)、朴素贝叶斯(高斯/多项式 + 拉普拉斯平滑)、KNN、线性回归(正规方程与梯度下降双实现、残差分析)、逻辑回归(交叉熵 + L2 + 梯度校验)、KMeans(k-means++ 与轮廓系数)、PCA(特征值分解与解释方差)、指标(混淆矩阵、P/R/F1、手算 ROC-AUC)、流水线(先切分后 fit,防数据泄漏)、报告与 CLI。 适合人群:要做数据挖掘课设或毕设的同学;只会调库、被问「决策树怎么分裂」答不上来的开发者;想把算法写成可跑代码而不是背公式的人。 使用场景及目标:照着教程手写每个算法,跑通三个可复现数据集,最后用一条命令跑完整流水线并输出指标报告;每个算法都配边界用例(空集、单样本、全同类、常数列、NaN),结论能被复算。 其他说明:33 个源文件 8,457 行,主机侧用例全部通过(本机 make test 实跑,只用标准库 + numpy,不依赖任何机器学习框架)。代码完整,无省略、无伪代码,数值下溢保护与参数校验全部保留。

LCG元

【计算机体系结构】基于PCI系列总线的技术演进分析:从并行架构到高速串行互连的设计原理与应用

内容概要:本文介绍了PCI(外设组件互连)技术的发展历程及其核心架构,涵盖从传统的PCI、PCI-X到现代的PCI Express(PCIe)的技术演进。重点讲解了各代技术的革命性与继承性特点,包括带宽提升、协议优化、电气特性改进以及软件兼容性。深入探讨了PCI的地址空间(内存、I/O和配置空间)、中断机制(INTx、MSI/MSI-X)、配置空间结构(包括能力列表和扩展能力列表),并详细解析了PCI-X的分拆

Kernel_RDMA

蓝桥杯python中级真题-熊怪吃核桃(题目与思路)

蓝桥杯python中级真题-熊怪吃核桃(题目与思路)

沐墨染华
评论
收藏 已收藏
分享
返回顶部