数据结构与算法
殷山：摩斯大模型隐私保护技术和应用探索
墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网
我也要 关注 + 加入社区背景介绍
6月20日下午，“2024信通院数据智能大会”圆满落幕，摩斯技术负责人殷山在论坛上分享了摩斯在大模型隐私保护技术和行业应用的探索。
殷山发表“大模型隐私保护”主题演讲
摩斯技术负责人殷山在“数据智能安全主题论坛“上，带来“大模型隐私保护技术与应用”的分享，主要从以下三点进行详细阐述：
1.大模型应用中的隐私泄露风险；
2.大模型隐私保护技术；
3.蚂蚁摩斯的大模型隐私保护产品。
大模型的生成和应用环节涉及海量的数据传输，容易造成个人隐私和企业业务机密信息泄漏，比如模型输入提示词、训练数据、私有化部署模型的隐私安全等等。但由于大模型和数据的紧密关联性，需要从全链路出发进行隐私保护的设计。
在技术层面，可以在如下几个阶段的进行隐私保护
-
原始数据的隐私保护技术：比如数据脱敏和数据合成等，对敏感信息、机密信息进行加密或替换后，再进行传输或使用，保护原始数据隐私；
-
训练和微调过程中的隐私保护技术：比如拆分微调和跨域微调，通过对训练数据和模型进行拆分和有损压缩等方式，保护训练数据和模型提供方的模型隐私安全；
-
推理过程中的隐私保护技术：比如匿名推理和模型混淆，通过对提示词匿名化、模型计算逻辑干扰等处理方式，防止信息窃取。
最后，殷山介绍了摩斯在大模型隐私保护产品方案上的探索，摩斯采用差分隐私、联邦大模型拆分和跨域微调、模型混淆、可信硬件等相结合的独创性设计，在原始数据不出域的情况下，实现数据输入、微调、推理全链路数据和模型隐私安全。
展览精彩瞬间
展览现场有包含蚂蚁摩斯在内的10+展商进行产品SHOW。蚂蚁摩斯大模型隐私保护方案也在该展会上亮相，也是首次对外展示。
关注我，获取更多资讯~
相关推荐
097634e9169c6777120550ad61afb6bc-1.jpg
097634e9169c6777120550ad61afb6bc-1.jpg
智能体式AI漫游指南中文版
智能体式AI漫游指南中文版、智能体式AI指南英文原版
融合高斯扰动与竞争学习的改进型多目标部落竞争与成员合作算法（IMOCTCM）求解DTLZ1-DTLZ7及-盘式制动器设计研究（Matlab代码实现）
内容概要：本文档名为《Plecs全桥LLC谐振变换器仿真模型.txt》，但实际内容并非聚焦于该主题，而是一份涵盖多个科研领域的Matlab/Simulink仿真资源汇总清单。文档列举了包括多目标优化算法（如IMOCTCM、MOWAA）、电力电子变换器控制（如LLC谐振变换器、DAB变换器）、电机控制（如PMSM无感控制）、状态估计（如卡尔曼滤波）、微电网调度、无人机路径规划、图像处理、信号处理等多个方向的仿真研究课题，涉及Matlab、Python、Simulink、PSCAD等多种工具和编程语言。文档末尾频繁出现“完整资源下载：公众号——荔枝科研社”及百度网盘链接，表明其核心用途是推广和分享一系列科研仿真资料，服务于学术交流与资源共享。; 适合人群：适用于电气工程、自动化、控制科学与工程、电力系统、电子信息、机械电子、计算机科学等相关领域的研究生、科研人员及工程技术人员。; 使用场景及目标：①为科研工作者提供丰富的Matlab/Simulink仿真案例参考和技术实现思路；②辅助高校师生完成课程设计、毕业设计或学术论文复现工作；③通过获取开源共享资源加速个人或团队的项目开发与算法验证进程。; 阅读建议：该文档属于资源目录性质，缺乏连贯的技术论述与逻辑结构，建议使用者根据自身研究方向筛选相关条目，结合提供的代码和模型进行学习与实践，并注意核实所下载资源的有效性、完整性以及代码运行环境的兼容性。
国央企如何利用AI工具提升科技创新项目管理与成果转化能力？.docx
国央企如何利用AI工具提升科技创新项目管理与成果转化能力？
储能双向Buck-Boost+模型预测电流控制+电压下垂控制仿真【附参考文献】（Simulink仿真实现）
内容概要：本文档详细介绍了一套针对储能双向Buck-Boost变换器的Simulink仿真资源，融合模型预测电流控制与电压下垂控制策略，适用于微电网及分布式能源系统中的能量管理与稳定控制。仿真模型全面呈现了双向Buck-Boost电路在储能系统充放电过程中的动态行为，重点引入模型预测控制（MPC）与下垂控制相结合的先进控制算法，有效提升了系统的响应速度、稳定性与鲁棒性。文档不仅提供了完整的仿真模型结构与参数设置，还附有详实的参考文献，便于使用者深入理解控制原理并开展理论延伸研究，是电力电子、新能源系统等领域科研与教学的重要实践资料。; 适合人群：电气工程、自动化、新能源等相关专业的硕士博士研究生、科研人员以及从事电力电子变换器与微电网系统设计的工程师。; 使用场景及目标：①用于微电网中储能系统的建模与协调控制策略研究；②开展模型预测控制（MPC）与电压下垂控制在直流变换器中的联合应用仿真分析；③支撑高校电力电子课程实验、毕业设计及科研项目开发，深化对双向DC-DC变换器非线性特性和先进控制算法实现机制的理解。; 阅读建议：建议结合Simulink仿真模型与配套文档同步学习，重点关注控制器的设计逻辑、参数整定方法及系统动态响应特性，推荐对比传统PI控制与先进控制策略的仿真结果，以深入掌握不同控制方案的性能差异与优化路径。
