AI真的太费钱了，Meta 公司公布了他们的 AI 集群细节。大家可以看看，AI 需要投多少钱。他们现在有两个集群，每个集群包含了24576块英伟达 H100 GPU。H100 的价格是2.5万美元～4万美元/块，也就是说，每个集群就要花费数亿美元-CSDN社区

小小鱼儿小小林

优质创作者: 编程框架技术领域

领域专家: 后端开发技术领域

2024-03-23 19:16:17

AI真的太费钱了，Meta 公司公布了他们的 AI 集群细节。大家可以看看，AI 需要投多少钱。他们现在有两个集群，每个集群包含了24576块英伟达 H100 GPU。H100 的价格是2.5万美元～4万美元/块，也就是说，每个集群就要花费数亿美元。他们计划今年年底前，将 H100 扩充至35万块，远期达到60万块。

...全文

389 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

最近正在开的Sigcomm上, Meta有一篇论文《RDMA over Ethernet for Distributed AI Training at Meta Scale》[1]详细介绍了它的物理网络部署和相关的拥塞控制机制. 本文来对它进行一些详细的解读.

— 它不是科幻电影里的机器人，而是运行在你电脑系统里，由。

深度｜李飞飞：我不知道什么是AGI你对人工通用智能（AGI）感到困惑吗？这就是 OpenAI 执着于最终以“造福全人类”的方式创造的东西。你可能想认真对待他们，因为他们刚筹集了 66 亿美元以更接近这个目标。但如果你仍然在想究竟什么是 AGI，你并不孤单。在周四的 Credo AI 负责任的人工智能领导峰会上，世界著名研究员常被称为“人工智能教母”的李飞飞表示，她也不知道什么是 AGI。

这篇文章，我将结合自己在大模型领域的经验，给大家详细聊聊新人应该如何转行大模型赛道？

最新Ironwood芯片的能效比直接是前代2倍，192GB HBM内存容量是Trillium TPU的6倍，带宽是4.5倍——参数党狂喜，财务总监更喜！甚至OpenAI都顶不住诱惑，今年6月宣布用谷歌TPU支持ChatGPT核心业务——曾经的“云对手”秒变“芯片客户”，这剧情比甄嬛传还精彩。谷歌最大的痛点是生态封闭——自家TPU+JAX+TensorFlow一套组合拳，但江湖上全是PyTorch+CUDA的传说。：绑定客户到谷歌生态——你用我的TPU，就得用我的JAX框架、我的云服务，甚至我的AI模型。

Link人工智能

3,645

社区成员

304

社区内容

发帖

与我相关

我的任务

搜索引擎人工智能个人社区浙江省·杭州市

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

欢迎各位高手分享经验

试试用AI创作助手写篇文章吧

+ 用AI写文章