不知名白帽(网络安全)
殷山：摩斯大模型隐私保护技术和应用探索
墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网
我也要 关注 + 加入社区
背景介绍
6月20日下午，“2024信通院数据智能大会”圆满落幕，摩斯技术负责人殷山在论坛上分享了摩斯在大模型隐私保护技术和行业应用的探索。
殷山发表“大模型隐私保护”主题演讲
摩斯技术负责人殷山在“数据智能安全主题论坛“上，带来“大模型隐私保护技术与应用”的分享，主要从以下三点进行详细阐述：
1.大模型应用中的隐私泄露风险；
2.大模型隐私保护技术；
3.蚂蚁摩斯的大模型隐私保护产品。
大模型的生成和应用环节涉及海量的数据传输，容易造成个人隐私和企业业务机密信息泄漏，比如模型输入提示词、训练数据、私有化部署模型的隐私安全等等。但由于大模型和数据的紧密关联性，需要从全链路出发进行隐私保护的设计。
在技术层面，可以在如下几个阶段的进行隐私保护
-
原始数据的隐私保护技术：比如数据脱敏和数据合成等，对敏感信息、机密信息进行加密或替换后，再进行传输或使用，保护原始数据隐私；
-
训练和微调过程中的隐私保护技术：比如拆分微调和跨域微调，通过对训练数据和模型进行拆分和有损压缩等方式，保护训练数据和模型提供方的模型隐私安全；
-
推理过程中的隐私保护技术：比如匿名推理和模型混淆，通过对提示词匿名化、模型计算逻辑干扰等处理方式，防止信息窃取。
最后，殷山介绍了摩斯在大模型隐私保护产品方案上的探索，摩斯采用差分隐私、联邦大模型拆分和跨域微调、模型混淆、可信硬件等相结合的独创性设计，在原始数据不出域的情况下，实现数据输入、微调、推理全链路数据和模型隐私安全。
展览精彩瞬间
展览现场有包含蚂蚁摩斯在内的10+展商进行产品SHOW。蚂蚁摩斯大模型隐私保护方案也在该展会上亮相，也是首次对外展示。
关注我，获取更多资讯~
相关推荐
国央企创新负责人如何进行企业创新综合能力分析？.docx
国央企创新负责人如何进行企业创新综合能力分析？
国央企在开展创新技术攻关时，如何实现技术需求与科研成果的精准匹配？.docx
国央企在开展创新技术攻关时，如何实现技术需求与科研成果的精准匹配？
国央企创新负责人如何打通科技成果与企业研发的需求对接？.docx
国央企创新负责人如何打通科技成果与企业研发的需求对接？
基于能源枢纽耦合的电热气综合能源系统稳态能流分析方法（Matlab代码实现）
内容概要：本文详细介绍了一种基于能源枢纽（Energy Hub）耦合架构的电热气综合能源系统稳态能流分析方法，并提供了完整的Matlab代码实现，属于高水平期刊论文的复现研究。该方法通过建立电、热、气多能耦合的统一数学模型，引入能源枢纽框架以整合多种能源输入输出关系，结合虚拟流建模技术和二阶锥松弛（Second-Order Cone Relaxation）优化策略，实现了对复杂综合能源系统中能量流动的高精度、高效求解，尤其适用于包含分布式电源和多能转换设备的系统稳态分析。该研究不仅具有理论深度，还具备良好的工程应用价值。; 适合人群：具备电力系统、热力系统或天然气系统等能源系统基本知识，熟悉Matlab编程环境，从事综合能源系统、智能电网、能源互联网、多能互补优化等领域研究的研究生、科研人员及工程技术人员。; 使用场景及目标：①用于教学与科研中深入理解多能耦合系统的建模原理与数值求解方法；②支撑综合能源系统的规划、运行优化、能效评估及可靠性分析等实际问题研究；③为后续开展动态能流分析、不确定性优化、多目标调度及市场机制设计等高级课题提供坚实的模型基础与代码框架。; 阅读建议：建议结合相关顶刊论文与所提供的Matlab代码同步研读，重点掌握能源枢纽的建模思想、虚拟流的物理意义、关键变量的定义方式以及约束条件的数学表达形式，并尝试在基准案例基础上调整系统参数、网络拓扑或设备配置，通过仿真实验加深对模型特性与求解性能的理解。
《基于威胁情报的产品开发实践技术指南》-29页.pdf
《基于威胁情报的产品开发实践技术指南》-29页.pdf
