殷山:摩斯大模型隐私保护技术和应用探索

蚂蚁摩斯隐私计算论坛 2024-06-26 09:53:01

 背景介绍

6月20日下午,“2024信通院数据智能大会”圆满落幕,摩斯技术负责人殷山在论坛上分享了摩斯在大模型隐私保护技术和行业应用的探索。

 

殷山发表“大模型隐私保护”主题演讲 

摩斯技术负责人殷山在“数据智能安全主题论坛“上,带来“大模型隐私保护技术与应用”的分享,主要从以下三点进行详细阐述

1.大模型应用中的隐私泄露风险;

2.大模型隐私保护技术;

3.蚂蚁摩斯的大模型隐私保护产品。

图片

 

大模型的生成和应用环节涉及海量的数据传输,容易造成个人隐私和企业业务机密信息泄漏,比如模型输入提示词、训练数据、私有化部署模型的隐私安全等等。但由于大模型和数据的紧密关联性,需要从全链路出发进行隐私保护的设计。

图片

 

图片

 

在技术层面,可以在如下几个阶段的进行隐私保护

  1. 原始数据的隐私保护技术:比如数据脱敏和数据合成等,对敏感信息、机密信息进行加密或替换后,再进行传输或使用,保护原始数据隐私;

  2. 训练和微调过程中的隐私保护技术:比如拆分微调和跨域微调,通过对训练数据和模型进行拆分和有损压缩等方式,保护训练数据和模型提供方的模型隐私安全;

  3. 推理过程中的隐私保护技术:比如匿名推理和模型混淆,通过对提示词匿名化、模型计算逻辑干扰等处理方式,防止信息窃取。

图片

 

图片

 

图片

 

最后,殷山介绍了摩斯在大模型隐私保护产品方案上的探索,摩斯采用差分隐私、联邦大模型拆分和跨域微调、模型混淆、可信硬件等相结合的独创性设计,在原始数据不出域的情况下,实现数据输入、微调、推理全链路数据和模型隐私安全。

图片

 

 

展览精彩瞬间  

展览现场有包含蚂蚁摩斯在内的10+展商进行产品SHOW。蚂蚁摩斯大模型隐私保护方案也在该展会上亮相,也是首次对外展示

图片

 

 

图片

 

 

图片

 

关注我,获取更多资讯~

图片

...全文
27 回复 打赏 收藏 转发到动态 举报
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复

28,398

社区成员

发帖
与我相关
我的任务
社区描述
ASP即Active Server Pages,是Microsoft公司开发的服务器端脚本环境。
社区管理员
  • ASP
  • 无·法
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧