支付宝开放平台-开发者社区——AI 日报「3 月 14 日」

支付宝官方开放平台 2025-03-14 14:34:39

1️⃣DeepSeek“防弹衣”来了,模型内生安全加固方案,拒绝杀敌一千自损八百

量子位|阅读原文

最新研究显示,以超强推理爆红的DeepSeek-R1模型竟藏隐形危险——即便最终拒绝回答,其思考过程仍可能泄露有害内容。现有防御技术深陷两难:要么防不住攻击,要么让模型变成”惊弓之鸟”,连正常问题都拒绝回答。上海交大与上海AI Lab联合推出安全防御方案——X-Boundary,试图破解两难局面。

X-Boundary通过分离安全和有害表征,并针对有害表征进行定向消除,在不损害模型通用性能且避免过度安全问题的前提下,实现精准高效的安全加固,使模型能够同时防御多种单轮和多轮攻击。

X-Boundary防御框架——如同为AI建立智能安检通道,实现危险内容精准拦截与安全信息无感通行。

三步建立动态防护网

  1. 边界绘制:通过设计显式的表征分离优化目标,让危险请求的表征向量与安全表征向量形成90°垂直角,从根源切断两者混淆的可能,在表征空间强行划出“安全禁区”。
  2. 威胁瓦解:对危险表征施加不可逆的扰动,使其无法保持原始有害形态(类似文件粉碎机的不可逆擦除)。
  3. 智能保鲜:采用表征维持技术,确保绝大多数安全问题的表征不受训练影响,维持模型原生智能。

 

2️⃣DeepSeek缩小中美AI竞争差距

AIGC开放社区|阅读原文

昨晚,全球最大金融媒体CNBC消息,OpenAI向特朗普政府提交了一份最新的15页报告,从监管政策、出口限制、AI基础设施等多个维度介绍了,美国该如何保持全球AI领导地位。OpenAI在原报告中写道:“尽管美国目前在AI领域仍保持领先,但DeepSeek显示我们的领先优势并不大,并且正在缩小。”

根据原报告写道:

  1. AI出口管制
    1. OpenAI认为,全面的出口控制策略不应仅仅限制AI技术流向中国,更应确保美国在全球AI扩散中占据优势,推动更多国家采用基于民主价值观的AI系统。包括维持AI扩散规则的三层框架,并对其进行关键修改以扩大第一层国家的数量。对于这些国家,美国商业外交政策应鼓励跨境资本流动,推广优化国内芯片设计的软件框架;协调全球禁止与中国结盟的AI基础设施,例如,华为芯片。
    2. 帮助第二层国家通过采用民主AI原则和更有效地管理芯片转移风险,提升到第一层国家地位。
    3. 第三层国家包括中国以及任何受美国限制的国家,应继续受到严格的AI系统出口管制,包括现有的先进芯片出口管制。
  1. AI基础设施
    1. 推动美国盟友和伙伴国家之间的《AI协议》,简化资本和供应链的获取途径,支持AI基础设施和强大的AI生态系统,参与国家同意共同的标准来保护数据中心和技术,随着时间推移,这种合作可扩展为一个全球网络,与中国AI基础设施联盟竞争。
  1. 监管政策建议
    1. OpenAI提议建立一个联邦政府与私营部门自愿合作的框架,由美国商务部监督,并与AI沙皇协调,可考虑重新规划美国AI安全研究所的职能。该框架旨在为国内AI公司提供一个与联邦政府沟通合作的高效渠道,协调国家安全和经济竞争力相关的专业知识。

 

3️⃣阿里向AI超级应用发起冲击

全天候科技|阅读原文

3月13日,阿里巴巴宣布推出AI旗舰应用——新夸克,它将告别传统搜索,升级为一个All in One的“AI超级框”,满足用户的所有需求。阿里巴巴集团副总裁、夸克CEO吴嘉坚信,不久的将来会诞生新的 AI超级应用。这意味着,阿里正式将C端AI超级应用上升到战略高度。

在AI To C端市场小打小闹的阿里,终于放了个大招。华尔街见闻从内部获悉,阿里对“AI超级框”的定位是,它能满足用户工作、学习、生活的各类AI需求。用户在“AI超级框”中输入指令后,夸克将自动识别意图,规划梳理后调动各种不同模型和Agent模块,帮助用户完成任务。

夸克CEO吴嘉表示:“此次升级的版本仅仅是全新夸克的一个雏形。随着未来模型能力的不断迭代升级,我们希望夸克AI超级框就像机器猫的口袋一样,能够让用户在这里进入AI世界。”

AIGCRank最新发布的2025年1月AI应用排行榜显示,夸克日活用户3369万,稳居各类AI应用榜首。不过,在QuestMobile定期发布的榜单中,并未将夸克列入AI原生App榜单。纵观全球AIGC应用,夸克还有很长的追赶距离。3月7日,知名风投A16Z发布了2025年全球100生成式AI应用排行榜,在移动版榜单上,夸克AI第6,在网页版榜单上,夸克并未上榜。

 

 

 

 

 

 

 

对此,你怎么看?

在帖子下积极互动,则有机会获得相关蚂蚁周边和积分!


AI 内容库

欢迎你的投稿!

扫描下方二维码加入群聊,带走蚂蚁周边!

戳我进群

...全文
85 回复 打赏 收藏 转发到动态 举报
AI 作业
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复

6

社区成员

发帖
与我相关
我的任务
社区描述
【蚂蚁集团最新资讯】【开放平台产品技术创新】【开发者社区动态分享】「产品面对面」「开发者日」「程序员节」互动沟通】 关注我~获取支付宝开放平台最新动态
agi 企业社区
社区管理员
  • 支付宝官方开放平台
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧