支付宝开放平台-开发者社区——AI 日报「2 月 27 日」

支付宝官方开放平台 2025-02-27 14:12:45

1️⃣大模型「记忆断片」成历史!AI初创全新Zep系统,知识图谱破解上下文诅咒

新智元|阅读原文

无论是ChatGPT还是Deepseek,随着大模型性能的提升,其能够处理的上下文也越来越长。但是,一旦超出上下文窗口的限制,大模型就需要重新开一个对话,如同「失忆」一般忘记之前交流的内容。然而,站在用户的角度,智能体应该能够记住之前的所有对话。

一家名为Zep AI的初创公司推出了为智能体打造的记忆层,通过回忆聊天历史,可以自动生成摘要和其他相关信息,使AI助手能够在不影响用户聊天体验的情况下,异步地从过去的对话中提取相关上下文。当前使用RAG的方法主要集中在领域知识和静态语料库上,即添加到语料库的文档很少发生变化。要使智能体的落地场景更加普遍,解决各种各样琐碎或高度复杂的问题,就需要访问大量的动态数据,比如与用户的交互、相关的业务数据以及世界知识。

Zep的开发者们认为,当前的RAG方法并不适合实现这一愿景;要想赋予智能体以动态、广泛的「记忆力」,需要让LLM驱动的智能体真正拥有存储部件。

具体来看,Zep可视为AI智能体的基本内存,由具有时间感知能力的知识图谱引擎Graphiti所驱动,可以摄入并综合结构化业务数据和非结构化的消息数据,并动态更新知识图,从而表征一个复杂、不断发展的世界。与其他知识图引擎相比,Graphiti的一个关键不同是具有时间提取和边失效过程,从而具备了管理动态信息更新的能力。

 

2️⃣500万TPM+20msTPOT,火山引擎用「AI云原生」重构大模型部署范式

机器之心|阅读原文

本地部署自己的 DeepSeek-R1 固然是一种选择,但对绝大多数(尤其是规模较小的)企业和组织来说,这个选择并非最优,因为本地部署往往需要在技术、安全和运维等方面投入大量资金和人力资源。

哪家云服务商最有可能夺得这场竞赛的头筹,相信很多人都会不假思索地给出一个答案:火山引擎。原因不仅仅是火山引擎的性价比最高,更在于其能提供高速、可靠和安全的服务,保证企业能够稳健地在云上部署自己的 AI 模型和服务。就连 DeepSeek-R1 模型也非常认可火山引擎在 AI 模型部署上的优势。火山引擎的强劲表现已经得到了 SuperCLUE 和基调听云等多个第三方评测平台的认可,比如基调听云便在《大模型服务性能评测 DeepSeek-R1 API 版》中写到:「火山引擎在平均速度、推理速度、生成速度上表现最优,且可用性高达 99.83%,在 API 接入上首选推荐。」

火山引擎为什么能成为后发先至的云服务商?主要是得益于其为 AI 时代的云服务率先总结出了自己的方法论:AI 云原生。云原生(Cloud-Native)是指围绕云计算开发和部署应用的方法论,其核心目标是让应用更好地适应云环境的特性,实现高可伸缩性、弹性、可用性和自动化管理等优势。

2024 年 12 月,火山引擎成为了国内首个提出并实践「AI 云原生」的厂商。当时,火山引擎总裁谭待在 2024 冬季火山引擎 FORCE 原动力大会上表示:「我们认为下一个十年非常重要的事是计算范式从云原生进入到 AI 云原生的新时代。」火山引擎 AI 云原生的关注重心有了进一步的升级:从「以 GPU 为核心」转向了「以模型为核心」。火山引擎总结了以模型为核心的 AI 云原生基础设施的几大主要特征:1、全栈推理加速,并具有最佳工程实践;2、具有高性价比的资源和灵活部署模式;3、更高安全性保障大模型应用平稳运行;4、易用性好并且具有优良的端到端体验。

 

3️⃣AI 云计算巨头Snowflake CEO专访:DeepSeek是好模型,而ChatGPT是一款好产品

Founder Park|阅读原文

 

DeepSeek 是否会对 OpenAI 造成威胁,模型从商品化产品转变为可持续产品套件的关键要素是什么?以及 Snowflake 在面对 NVIDIA 和 Databricks 的竞争时,如何创新?一些有趣的点:

  1. DeepSeek 对 OpenAI 不形成威胁,因为它只是一个商品化的模型,而 ChatGPT 是一个完善的产品,它具有更持久的竞争力。
  2. 我认为绝对有价值的地方在于那些拥有客户关系、提供明确价值,并且愿意快速拥抱 AI 以防止被颠覆者取代的公司。这就是我对 Snowflake 感到乐观的原因,因为我们是一个数据平台,帮助人们收集数据、理解数据、对数据进行分析,并在数据之上运行预测性工具(比如机器学习)。我认为 AI 是数据生命周期和数据访问的巨大加速器。
  3. 创新不是一种选择,而是我们必须做的事情。相比 Databricks 这样的私人公司,我们是否面临更多限制?绝对有。他们可以大手笔收购业务,而不必担心自由现金流之类的问题。但这就是创新的意义所在——如何在限制条件下推动发展?某种程度上,DeepSeek 是另一个例子,说明拥有「富亲戚」并不总是好事。
  4. 一家初创公司如果找到了产品市场契合点 (PMF),就像一个活生生的、会呼吸的东西,这是一种魔法。Snowflake 是这种魔法的具体体现,通过复制很难创造出一个数据产品,你必须不断创新,钱买不到令人惊叹的基础模型,也买不到 Snowflake。
  5. Stratechery 的 Ben Thompson 和 Nat Friedman 讨论 AI 泡沫是否是一个像 90 年代电信泡沫那样的「好泡沫」,后者最终为全世界铺设了光纤,让谷歌、Facebook 以及你和我都受益;还是说这是一个像早期互联网泡沫那样的「愚蠢泡沫」,烧掉了大量资金,试图为你送杂货,而我们不得不等 15 年才等到 Instacart 出现?
  6. 如果你看 AI 领域,在企业端,尤其是在消费端,我不认为存在单一的入口。不过 ChatGPT 有可能正在成为那个入口。所以如果你是一个押注消费端的人,那么在模型的变体和专业化方面,我认为这将有利于现有的主导者,而现有主导者 100% 是 ChatGPT 和 OpenAI,其他模型的入口最终会变得分散。

 

 

 

 

 

 

 

 

 

 

对此,你怎么看?

在帖子下积极互动,则有机会获得相关蚂蚁周边和积分!


AI 内容库

欢迎你的投稿!

扫描下方二维码加入群聊,带走蚂蚁周边!

戳我进群

...全文
18 回复 打赏 收藏 转发到动态 举报
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复

4

社区成员

发帖
与我相关
我的任务
社区描述
【蚂蚁集团最新资讯】【开放平台产品技术创新】【开发者社区动态分享】「产品面对面」「开发者日」「程序员节」互动沟通】 关注我~获取支付宝开放平台最新动态
agi 企业社区
社区管理员
  • 支付宝官方开放平台
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧