IT全栈-通文馆
殷山：摩斯大模型隐私保护技术和应用探索
墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网
我也要 关注 + 加入社区背景介绍
6月20日下午，“2024信通院数据智能大会”圆满落幕，摩斯技术负责人殷山在论坛上分享了摩斯在大模型隐私保护技术和行业应用的探索。
殷山发表“大模型隐私保护”主题演讲
摩斯技术负责人殷山在“数据智能安全主题论坛“上，带来“大模型隐私保护技术与应用”的分享，主要从以下三点进行详细阐述：
1.大模型应用中的隐私泄露风险；
2.大模型隐私保护技术；
3.蚂蚁摩斯的大模型隐私保护产品。
大模型的生成和应用环节涉及海量的数据传输，容易造成个人隐私和企业业务机密信息泄漏，比如模型输入提示词、训练数据、私有化部署模型的隐私安全等等。但由于大模型和数据的紧密关联性，需要从全链路出发进行隐私保护的设计。
在技术层面，可以在如下几个阶段的进行隐私保护
-
原始数据的隐私保护技术：比如数据脱敏和数据合成等，对敏感信息、机密信息进行加密或替换后，再进行传输或使用，保护原始数据隐私；
-
训练和微调过程中的隐私保护技术：比如拆分微调和跨域微调，通过对训练数据和模型进行拆分和有损压缩等方式，保护训练数据和模型提供方的模型隐私安全；
-
推理过程中的隐私保护技术：比如匿名推理和模型混淆，通过对提示词匿名化、模型计算逻辑干扰等处理方式，防止信息窃取。
最后，殷山介绍了摩斯在大模型隐私保护产品方案上的探索，摩斯采用差分隐私、联邦大模型拆分和跨域微调、模型混淆、可信硬件等相结合的独创性设计，在原始数据不出域的情况下，实现数据输入、微调、推理全链路数据和模型隐私安全。
展览精彩瞬间
展览现场有包含蚂蚁摩斯在内的10+展商进行产品SHOW。蚂蚁摩斯大模型隐私保护方案也在该展会上亮相，也是首次对外展示。
关注我，获取更多资讯~
相关推荐
【工业自动化】欧姆龙PLC产品线与编程软件应用：从选型架构到调试排错的全流程技术指南
内容概要：本文《欧姆龙PLC与编程软件完全手册》系统介绍了欧姆龙PLC的产品架构、软件体系、通信协议、选型策略及编程调试技巧。重点区分了两大技术平台：基于CX-Programmer的传统C系列（CP/CJ/CS）与基于Sysmac Studio的新一代Sysmac平台（NJ/NX/NY），强调二者在软件生态、寻址方式和通信架构上的根本差异。手册详细对比了各系列PLC的性能参数，并提供与西门子产品的功能对标，帮助用户快速定位。深入讲解了编程操作中的关键问题，如任务结构设计、间接寻址、FB封装陷阱、在线调试五件套等，特别指出“FB使能关闭时状态不初始化”等易出错点。最后汇总了选型路径与现场避坑清单，极具实战指导价值。; 适合人群：具备一定工业自动化基础，从事PLC编程、设备调试、系统集成的研发工程师和技术人员，尤其是从西门子平台转向欧姆龙或参与新项目选型的1-5年经验从业者。; 使用场景及目标：① 新项目选型时判断应选用C系列还是Sysmac平台；② 编程调试过程中掌握高效操作技巧与常见问题排查方法；③ 实现跨平台迁移、系统升级或接手他人项目时规避架构与逻辑陷阱；④ 提升对欧姆龙PLC任务机制、间接寻址、FB设计等高级功能的理解与应用能力。; 阅读建议：本手册理论结合实践，建议按“先架构后操作”的顺序阅读，重点章节需结合实际工程反复演练。特别是FB设计规范、任务切换处理、强制操作收尾流程等内容，应在仿真环境中验证后再应用于现场。注意版本匹配问题，操作前确认所用软件与控制器固件版本兼容。
CISP-CSE注册云安全工程师备考资源包
CISP-CSE注册云安全工程师备考资源包
科技中介服务机构如何通过AI技术降低技术评估与匹配服务的操作门槛？.docx
科技中介服务机构如何通过AI技术降低技术评估与匹配服务的操作门槛？
国央企创新负责人如何借助平台实现创新资源的高效配置与项目落地？.docx
国央企创新负责人如何借助平台实现创新资源的高效配置与项目落地？
高校技术转移办公室人员如何高效筛选并推介科技成果？.docx
高校技术转移办公室人员如何高效筛选并推介科技成果？
