智能研习社
殷山：摩斯大模型隐私保护技术和应用探索
墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网
我也要 关注 + 加入社区背景介绍
6月20日下午，“2024信通院数据智能大会”圆满落幕，摩斯技术负责人殷山在论坛上分享了摩斯在大模型隐私保护技术和行业应用的探索。
殷山发表“大模型隐私保护”主题演讲
摩斯技术负责人殷山在“数据智能安全主题论坛“上，带来“大模型隐私保护技术与应用”的分享，主要从以下三点进行详细阐述：
1.大模型应用中的隐私泄露风险；
2.大模型隐私保护技术；
3.蚂蚁摩斯的大模型隐私保护产品。
大模型的生成和应用环节涉及海量的数据传输，容易造成个人隐私和企业业务机密信息泄漏，比如模型输入提示词、训练数据、私有化部署模型的隐私安全等等。但由于大模型和数据的紧密关联性，需要从全链路出发进行隐私保护的设计。
在技术层面，可以在如下几个阶段的进行隐私保护
-
原始数据的隐私保护技术：比如数据脱敏和数据合成等，对敏感信息、机密信息进行加密或替换后，再进行传输或使用，保护原始数据隐私；
-
训练和微调过程中的隐私保护技术：比如拆分微调和跨域微调，通过对训练数据和模型进行拆分和有损压缩等方式，保护训练数据和模型提供方的模型隐私安全；
-
推理过程中的隐私保护技术：比如匿名推理和模型混淆，通过对提示词匿名化、模型计算逻辑干扰等处理方式，防止信息窃取。
最后，殷山介绍了摩斯在大模型隐私保护产品方案上的探索，摩斯采用差分隐私、联邦大模型拆分和跨域微调、模型混淆、可信硬件等相结合的独创性设计，在原始数据不出域的情况下，实现数据输入、微调、推理全链路数据和模型隐私安全。
展览精彩瞬间
展览现场有包含蚂蚁摩斯在内的10+展商进行产品SHOW。蚂蚁摩斯大模型隐私保护方案也在该展会上亮相，也是首次对外展示。
关注我，获取更多资讯~
相关推荐
《模式识别与数据挖掘》配套PPT课件
《模式识别与数据挖掘》配套PPT课件
科技成果转化项目进场交易前，评估备案环节需要准备哪些材料？_8.docx
科易网基于AI模型+行业大数据，在技术转移、成果转化、技术经纪、知识产权、产业创新、科技招商等垂直领域的多样化应用场景，推出科技创新领域的AI+工具与数智化解决方案，推动科技创新与产业创新智能化发展。
人工智能通识教育（中职版）课程标准+PPT课件+部分素材+电子活页+在线考核
人工智能通识教育（中职版）课程标准+PPT课件+部分素材+电子活页+在线考核
跨境电商供应链管理（AIGC版）课件+教案+参考答案
跨境电商供应链管理（AIGC版）课件+教案+参考答案
110KV单电源电网三段式电流保护+距离继电保护整定计算说明报告（23页+6000字）
内容概要：本文是一份关于110kV单电源电网继电保护整定计算的综合性技术报告，全文共23页、约6000字，系统阐述了三段式电流保护与距离保护的设计原理及其整定计算方法。报告深入分析了电力系统在短路故障条件下的电流与阻抗特性，详细推导了电流保护Ⅰ、Ⅱ、Ⅲ段的动作范围、整定原则、灵敏度校验及时间配合机制，确保满足继电保护的选择性、速动性、灵敏性和可靠性“四性”要求。同时，针对长距离或重要输电线路，补充介绍了距离保护的阻抗整定计算方法，并可能结合Matlab进行仿真验证与辅助计算，提升整定结果的准确性与工程实用性。; 适合人群：适用于电气工程及其自动化相关专业的高年级本科生、研究生，以及从事电力系统继电保护设计、运行维护的工程技术人员；要求读者具备电力系统分析、短路计算及继电保护的基础理论知识。; 使用场景及目标：①掌握110kV单电源辐射型电网中三段式电流保护的整定流程与实际计算步骤；②理解距离保护的工作原理及其在复杂工况下的应用优势；③完成实际工程项目的保护配置与整定计算任务，或作为课程设计、毕业设计及科研课题的技术参考资料；④结合Matlab工具实现整定计算的程序化处理与动作特性仿真验证。; 阅读建议：建议读者结合《电力系统继电保护原理》等相关教材同步学习，重点研读整定公式的推导过程与典型算例的计算细节，注意区分电流保护与距离保护的适用场景与配置逻辑，有条件时应利用Matlab等工具对保护动作行为进行建模与仿真，以深化对保护协调配合机制的理解。
