AI真的太费钱了，Meta 公司公布了他们的 AI 集群细节。大家可以看看，AI 需要投多少钱。他们现在有两个集群，每个集群包含了24576块英伟达 H100 GPU。H100 的价格是2.5万美元～4万美元/块，也就是说，每个集群就要花费数亿美元-CSDN社区

小小鱼儿小小林

全栈领域优质创作者

博客专家认证

2024-03-23 19:16:17

AI真的太费钱了，Meta 公司公布了他们的 AI 集群细节。大家可以看看，AI 需要投多少钱。他们现在有两个集群，每个集群包含了24576块英伟达 H100 GPU。H100 的价格是2.5万美元～4万美元/块，也就是说，每个集群就要花费数亿美元。他们计划今年年底前，将 H100 扩充至35万块，远期达到60万块。

...全文

240 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

最近正在开的Sigcomm上, Meta有一篇论文《RDMA over Ethernet for Distributed AI Training at Meta Scale》[1]详细介绍了它的物理网络部署和相关的拥塞控制机制. 本文来对它进行一些详细的解读.

深度｜李飞飞：我不知道什么是AGI你对人工通用智能（AGI）感到困惑吗？这就是 OpenAI 执着于最终以“造福全人类”的方式创造的东西。你可能想认真对待他们，因为他们刚筹集了 66 亿美元以更接近这个目标。但如果你仍然在想究竟什么是 AGI，你并不孤单。在周四的 Credo AI 负责任的人工智能领导峰会上，世界著名研究员常被称为“人工智能教母”的李飞飞表示，她也不知道什么是 AGI。

这篇文章，我将结合自己在大模型领域的经验，给大家详细聊聊新人应该如何转行大模型赛道？

TensorFlow在推荐系统中的分布式训练优化实践随着美团业务的发展，推荐系统模型的规模和复杂度也在快速增长，具体表现如下：训练数据：训练样本从到百亿增长到千亿，增长了近10倍。稀疏参数：个数从几百到几千，也增长了近10倍；总参数量（也就是tf.Variable）从几亿增长到百亿，增长了10~20倍。模型复杂度：越来越复杂，模型单步计算时间增长10倍以上。对于大流量业务，一次训练实验，从几个小时增长到了几天，而此场景一次实验保持在1天之内是基本的需求。

— 它不是科幻电影里的机器人，而是运行在你电脑系统里，由。

Link人工智能

3,646

社区成员

304

社区内容

发帖

与我相关

我的任务

搜索引擎人工智能个人社区浙江省·杭州市

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

欢迎各位高手分享经验

试试用AI创作助手写篇文章吧

+ 用AI写文章