开发者技术交流协会
殷山：摩斯大模型隐私保护技术和应用探索
墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网
我也要 关注 + 加入社区背景介绍
6月20日下午，“2024信通院数据智能大会”圆满落幕，摩斯技术负责人殷山在论坛上分享了摩斯在大模型隐私保护技术和行业应用的探索。
殷山发表“大模型隐私保护”主题演讲
摩斯技术负责人殷山在“数据智能安全主题论坛“上，带来“大模型隐私保护技术与应用”的分享，主要从以下三点进行详细阐述：
1.大模型应用中的隐私泄露风险；
2.大模型隐私保护技术；
3.蚂蚁摩斯的大模型隐私保护产品。
大模型的生成和应用环节涉及海量的数据传输，容易造成个人隐私和企业业务机密信息泄漏，比如模型输入提示词、训练数据、私有化部署模型的隐私安全等等。但由于大模型和数据的紧密关联性，需要从全链路出发进行隐私保护的设计。
在技术层面，可以在如下几个阶段的进行隐私保护
-
原始数据的隐私保护技术：比如数据脱敏和数据合成等，对敏感信息、机密信息进行加密或替换后，再进行传输或使用，保护原始数据隐私；
-
训练和微调过程中的隐私保护技术：比如拆分微调和跨域微调，通过对训练数据和模型进行拆分和有损压缩等方式，保护训练数据和模型提供方的模型隐私安全；
-
推理过程中的隐私保护技术：比如匿名推理和模型混淆，通过对提示词匿名化、模型计算逻辑干扰等处理方式，防止信息窃取。
最后，殷山介绍了摩斯在大模型隐私保护产品方案上的探索，摩斯采用差分隐私、联邦大模型拆分和跨域微调、模型混淆、可信硬件等相结合的独创性设计，在原始数据不出域的情况下，实现数据输入、微调、推理全链路数据和模型隐私安全。
展览精彩瞬间
展览现场有包含蚂蚁摩斯在内的10+展商进行产品SHOW。蚂蚁摩斯大模型隐私保护方案也在该展会上亮相，也是首次对外展示。
关注我，获取更多资讯~
相关推荐
产教融合实训基地与实践中心建设逻辑图-可编辑版
产教融合实训基地与实践中心建设逻辑图-可编辑版
idea2025-free.zip
idea2025-free.zip
sop基于灵敏度分析的有源配电网智能软开关优化配置升级1（Matlab代码实现）
内容概要：本文提出了一种基于灵敏度分析的有源配电网智能软开关（SOP）优化配置方法，旨在应对高比例分布式电源接入带来的电压波动与网络损耗加剧等问题。研究以IEEE33节点系统为算例，通过改进的灵敏度分析模型量化各节点对电压和功率流动的影响程度，进而构建SOP选址与定容的优化模型，实现降低网损、改善电压分布及提升系统运行灵活性的目标。全文详细阐述了灵敏度指标的数学推导、目标函数与约束条件的建模过程，并基于Matlab实现了完整的仿真求解流程，具备良好的工程实用性与学术参考价值。; 适合人群：电力系统及其自动化、电气工程等相关专业的硕士博士研究生、科研机构研究人员，以及从事智能配电网规划、运行与优化的工程技术人员。; 使用场景及目标：①研究分布式电源大规模接入背景下配电网的主动调控与优化策略；②指导智能软开关在实际配电网中的科学选址与容量配置；③为相关科研课题提供可复现的仿真案例，支撑学术论文撰写与算法验证。; 阅读建议：建议读者结合提供的Matlab代码与IEEE33节点标准模型进行动手实践，重点理解灵敏度指标的物理意义及其在优化模型中的应用逻辑，关注求解过程中的约束设置与算法收敛性，并可进一步拓展至SOP与储能联合配置、多时间尺度优化等复杂场景进行二次开发与研究。
Ubuntu安装Latex
关于Ubuntu安装Latex的详细记录和排错指南
高校技术转移办公室人员在成果转化过程中，如何实现科技成果与产业需求的高效对接？.docx
高校技术转移办公室人员在成果转化过程中，如何实现科技成果与产业需求的高效对接？
