殷山:摩斯大模型隐私保护技术和应用探索

蚂蚁摩斯隐私计算论坛 蚂蚁摩斯隐私计算论坛 墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年,写一次发全网 我也要 + 加入社区

背景介绍

6月20日下午,“2024信通院数据智能大会”圆满落幕,摩斯技术负责人殷山在论坛上分享了摩斯在大模型隐私保护技术和行业应用的探索。

 

殷山发表“大模型隐私保护”主题演讲 

摩斯技术负责人殷山在“数据智能安全主题论坛“上,带来“大模型隐私保护技术与应用”的分享,主要从以下三点进行详细阐述:

1.大模型应用中的隐私泄露风险;

2.大模型隐私保护技术;

3.蚂蚁摩斯的大模型隐私保护产品。

图片

 

大模型的生成和应用环节涉及海量的数据传输,容易造成个人隐私和企业业务机密信息泄漏,比如模型输入提示词、训练数据、私有化部署模型的隐私安全等等。但由于大模型和数据的紧密关联性,需要从全链路出发进行隐私保护的设计。

图片

 

图片

 

在技术层面,可以在如下几个阶段的进行隐私保护

  1. 原始数据的隐私保护技术:比如数据脱敏和数据合成等,对敏感信息、机密信息进行加密或替换后,再进行传输或使用,保护原始数据隐私;

  2. 训练和微调过程中的隐私保护技术:比如拆分微调和跨域微调,通过对训练数据和模型进行拆分和有损压缩等方式,保护训练数据和模型提供方的模型隐私安全;

  3. 推理过程中的隐私保护技术:比如匿名推理和模型混淆,通过对提示词匿名化、模型计算逻辑干扰等处理方式,防止信息窃取。

图片

 

图片

 

图片

 

最后,殷山介绍了摩斯在大模型隐私保护产品方案上的探索,摩斯采用差分隐私、联邦大模型拆分和跨域微调、模型混淆、可信硬件等相结合的独创性设计,在原始数据不出域的情况下,实现数据输入、微调、推理全链路数据和模型隐私安全。

图片

 

 

展览精彩瞬间  

展览现场有包含蚂蚁摩斯在内的10+展商进行产品SHOW。蚂蚁摩斯大模型隐私保护方案也在该展会上亮相,也是首次对外展示。

图片

 

图片

 

图片

 

关注我,获取更多资讯~

图片

...全文

相关推荐

国央企创新负责人如何在科技创新过程中实现资源的智能配置与高效协同.docx

国央企创新负责人如何在科技创新过程中实现资源的智能配置与高效协同

BIZKEEN

阀门与管道计算工具包(Excel 6 表:安全阀排量/Kv换算/管道压降/换热初算/壁厚校核)

【内容概要】 Excel 工程计算工具包,共 6 个工作表,全部带可查看公式,黄色格填参数、其余自动计算: 1. 安全阀排量:按 ISO 4126 / GB 12241 思路的气相泄放能力估算(临界流判断、最小泄放面积) 2. 阀门 Kv/Cv 换算:Kv 与 Cv 互转、体积流量估算 3. 管道压降:达西公式 + Swamee-Jain 摩阻系数,含沿程与局部阻力拆分 4. 换热初算:逆流 LMTD 法算所需传热面积,附建议裕量 5. 壁厚校核:内压筒体壁厚初算(GB/T 20801 思路),给名义壁厚建议 6. 报价参考表:常见工程服务的价格区间与交付周期 【适用人群】 阀门/泵/管道设计与选型人员、设备厂技术支持、工程公司投标人员、机械专业学生做课程设计。 【使用场景】 - 客户问"这个口径够不够""压降多少"时快速出数 - 投标前做方案初算,避免拍脑袋 - 教学演示:公式与数值一一对应,可核查 【说明】 本工具为工程估算用途,正式设计计算书仍需按标准完整校核(含背压、温度修正、材质与裕量)。文件为 xlsx,无需插件。

nanami_yao

Qt车载HMI界面还原实战包:4子页空调面板源码+像素对比脚本+221条交互验收,附测量口径与残差归因

本资源为车载 HMI 界面(1920×720 空调控制面板)的 Qt 完整实现与验收工具链,可直接编译运行,也可作为团队建立"可复核验收标准"的参照模板。 一、工程源码(src/ 约 1080 行) 1. pages.cpp:空调、除霜、强制模式、新风控制 4 个子页绘制,含双卡互斥抽象,便于扩展新页面; 2. acwindow.cpp:真实 QMouseEvent 点击路径,状态机与命中区判定; 3. ui.cpp:字体与绘制封装,含以墨顶为锚点的垂直压缩实现(可经环境变量关闭); 4. uitest.cpp:344 行交互验收断言,覆盖点击命中、状态互斥、配色切换与整帧回归。 5. main.cpp:提供 --shots 批量截图、--uitest 离屏验收、--probe 字体光栅化探测三种运行模式。 二、切图素材(assets/ 34 项) PNG 透明底切图,含选中/未选中两套图标,命名与控件一一对应,便于替换为自有设计资源。 三、验收与对比工具 compare.py 做多阈值像素对比,输出 any/gt8/gt16/mae/PSNR 五项指标;capture_window.ps1 抓真实窗口画面,用于校验离屏渲染路径。 四、随包文档与实测数据 逐条控件清单、对比报告(含四版收敛序列、压缩比例扫描 0.86~0.94、残余差异归因)、验收报告、221 条断言原始日志,以及原型与实现的并排图和差异热图。

GeekArch

加减放大电路multisim仿真

利用Multisim软件进行仿真验证反相求和电路输出与输入极性相反;同相求和电路输出与输入同相;加减电路则可实现多信号的综合运算 参考文章:https://blog.csdn.net/weixin_43348794/article/details/151766897?spm=1001.2014.3001.5502

粟米茶

飞塔防火墙固件 201f

飞塔防火墙固件 201f

weixin_53281870
评论
收藏 已收藏
分享
返回顶部