Java成长者之家
保护大模型隐私安全，摩斯获NeurIPS顶会“2024大模型隐私挑战赛赛道冠军”
墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网
我也要 关注 + 加入社区开篇
近日，第三十八届神经信息处理系统年会（NeurIPS 2024）特设官方赛——大语言模型隐私挑战赛（LLM-PC）落幕。摩斯联合浙江大学计算机体系结构实验室陈文智、魏成坤团队共9人组成了“Morse & ARCLab”参赛队伍，荣获该赛事全部两个赛道中攻击赛道的冠军和防御赛道的最佳实用防御奖。赛题聚焦大语言模型训练数据的隐私安全，有助于推动整个领域向构建更加安全、可靠的AI系统目标前进，冠军方案也代表着当前业界领先技术。
赛事信息
NeurIPS是机器学习领域三大顶级国际会议之一，也是中国计算机学会A类推荐会议。本次特设竞赛于2024年7月底开始，由加州大学伯克利分校、德州大学奥斯汀分校、伊利诺伊大学厄巴纳-香槟分校、新加坡国立大学、Center for AI Safety等高校与机构联合命题组织，吸引来自数十个国家超30支队伍参与角逐。本次参赛者的任务是设计与实现创新解决方案，从下游模型中窃取训练数据中的隐私或设计隐私保护的训练方法。
赛题方案介绍
在攻击赛道中，我们通过查询目标模型来构建提示语，促使其为每个掩盖的个人可识别信息（PII）生成候选回应，并计算其损失值，再用自我提示候选提取和基于损失的贪心搜索，选择损失值最低的候选作为最终输出。这种基于分段与聚合的损失计算方法，以加速候选项的选择过程。我们的方法在比赛提供的Llama3.1-8B模型上可以达到0.233的攻击成功率
在防御赛道中，我们利用数据脱敏与合成技术，对包含PII的语料进行随机替换，之后以自回归的方式微调目标模型，可以扰乱大模型对PII信息的记忆，降低其输出正确PII的可能，防止隐私数据泄漏。该方案使主办方提供的攻击方法成功率相对降低30.6%，同时在MMLU和TruthfulQA等基准数据集上的结果也表明该方法对模型性能几乎没有损耗。
产业应用
解决数据和模型的隐私安全问题，是大模型在产业界尤其是金融行业落地的重要课题。结合比赛同款方案，摩斯研发了大模型隐私保护产品，该产品融合数据脱敏、拆分学习、模型混淆、差分隐私、TEE等多种技术路线，实现大模型落地应用中的模型微调、推理全链路数据和模型隐私保护。
在行业应用方面，摩斯大模型隐私保护产品已在银行、证券等多个行业落地推进中。目前已应用在网商银行农业助贷场景，利用摩斯的大模型隐私保护技术融合多方时空大数据，共建“密态时空大模型”，进行行内农户贷款风险评估，进一步提升种植户金融放款效率和满意度。
持续技术创新，摩斯仍在加速！
欢迎与行业伙伴进行业务共创、产业落地合作！
关注我，获取更多资讯~
相关推荐
【MATLAB例程】基于APF的多无人机动态路径规划与避障仿真 四无人机协同避碰、动态障碍规避及安全性能分析（含公式）
程序基于多无人机二维运动学模型，采用人工势场法（APF）实现四架无人机在固定与动态障碍环境下的路径规划和协同避碰。绘制无人机运动轨迹、障碍物轨迹、安全净间隙、速度与加速度、航程及到达时间等图像，输出目标到达数量、碰撞统计和安全性能指标。无人机数量、障碍物分布、运动约束及APF算法参数均可自行调整。
《智能之门》配套PPT课件
《智能之门》配套PPT课件
chromedriver-win64-156.0.8078.80(Stable).zip
chromedriver-win64-156.0.8078.80(Stable).zip
三相并网逆变器虚拟阻抗+统一有源阻尼策略SVPWM+SPWM调制仿真
内容概要：本文档系统梳理了电力电子与新能源并网领域的核心技术与仿真实践，聚焦三相并网逆变器的先进控制策略与调制技术，涵盖虚拟阻抗、统一有源阻尼、SVPWM与SPWM调制、预测电流控制、中点电位平衡、低电压穿越（LVRT）及孤岛检测等关键技术。文档整合了大量基于Matlab/Simulink的高保真仿真模型，涉及三电平ANPC/T型/Z源逆变器、LCL滤波器、虚拟同步发电机（VSG）、下垂控制、构网型变流器等多种主流拓扑与控制架构，并延伸至风光储联合系统、微电网能量管理、弱电网稳定性分析、序阻抗建模与扫频法等复杂应用场景，特别强调SCI论文成果复现与工程化设计实现，具有极强的科研指导性与实践价值。; 适合人群：面向电力电子、电气工程及其自动化等相关专业的研究生、高校科研人员及从事新能源发电、微电网控制、逆变器研发的工程技术人员，要求具备扎实的电路理论、自动控制原理基础及一定的Matlab/Simulink仿真能力。; 使用场景及目标：①支撑高水平学术论文的仿真实验设计与结果验证，尤其是构网型变流器、虚拟同步技术、主动阻尼机制等前沿方向的研究；②用于毕业设计、科研项目中复杂电力电子系统的建模与控制策略开发；③助力工程师掌握从单机逆变器控制到多能互补系统协同运行的全流程仿真技术体系。; 阅读建议：建议结合文档提供的参考文献与仿真资源，采用“由简入繁、循序渐进”的学习路径，先掌握三相并网逆变器PI控制与SVPWM调制等基础模型，再逐步深入VSG并离网切换、多机并联环流抑制、弱电网阻抗交互等高阶课题，注重理论推导、参数设计与仿真调试的深度融合，提升系统级建模与问题分析能力。
三相四桥臂电压不对称跌落补偿动态电压恢复器DVR（Simulink仿真实现）
内容概要：本文介绍了一种基于三相四桥臂拓扑结构的动态电压恢复器（DVR），用于补偿电网中由电压不对称跌落引起的电能质量问题。通过Simulink平台构建仿真模型，重点研究了在不平衡负载和电网电压跌落工况下，DVR对负载侧电压的快速补偿能力。系统采用多准PR（Proportional Resonant）并联控制策略，实现对各相电压的独立精确控制，有效抑制负序分量，提升系统在复杂工况下的稳定性和响应性能。仿真结果验证了所提控制方法在电压幅值、相位补偿及波形质量改善方面的有效性，适用于对供电连续性和电能质量要求较高的工业场景。; 适合人群：电力电子、电气工程及其自动化等相关专业的研究生、科研人员及从事电能质量治理的工程技术人员。; 使用场景及目标：①研究动态电压恢复器在电压跌落、三相不平衡等典型电能质量问题中的补偿机制；②掌握三相四桥臂逆变器的建模与多准PR控制策略的设计与实现；③为高精度电能质量调节装置的研发提供理论依据和仿真验证手段。; 阅读建议：建议结合提供的参考文献和说明文档，深入理解控制算法的设计原理，并在Simulink环境中动手复现仿真模型，通过调整故障条件和控制器参数，观察系统动态响应，从而全面掌握DVR的工作特性与优化方法。
