AI真的太费钱了，Meta 公司公布了他们的 AI 集群细节。大家可以看看，AI 需要投多少钱。他们现在有两个集群，每个集群包含了24576块英伟达 H100 GPU。H100 的价格是2.5万美元～4万美元/块，也就是说，每个集群就要花费数亿美元-CSDN社区

小小鱼儿小小林

优质创作者: 编程框架技术领域

领域专家: 后端开发技术领域

2024-03-23 19:16:17

AI真的太费钱了，Meta 公司公布了他们的 AI 集群细节。大家可以看看，AI 需要投多少钱。他们现在有两个集群，每个集群包含了24576块英伟达 H100 GPU。H100 的价格是2.5万美元～4万美元/块，也就是说，每个集群就要花费数亿美元。他们计划今年年底前，将 H100 扩充至35万块，远期达到60万块。

...全文

797 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

最近正在开的Sigcomm上, Meta有一篇论文《RDMA over Ethernet for Distributed AI Training at Meta Scale》[1]详细介绍了它的物理网络部署和相关的拥塞控制机制. 本文来对它进行一些详细的解读.

— 它不是科幻电影里的机器人，而是运行在你电脑系统里，由。

深度｜李飞飞：我不知道什么是AGI你对人工通用智能（AGI）感到困惑吗？这就是 OpenAI 执着于最终以“造福全人类”的方式创造的东西。你可能想认真对待他们，因为他们刚筹集了 66 亿美元以更接近这个目标。但如果你仍然在想究竟什么是 AGI，你并不孤单。在周四的 Credo AI 负责任的人工智能领导峰会上，世界著名研究员常被称为“人工智能教母”的李飞飞表示，她也不知道什么是 AGI。

解决大模型成本高企难题，本文揭示3个常被忽视的成本黑洞，并提供实用的大模型成本优化方案，涵盖推理部署、训练架构与资源调度策略。显著降本增效，适用企业级AI应用，值得收藏。

这篇文章，我将结合自己在大模型领域的经验，给大家详细聊聊新人应该如何转行大模型赛道？

Link人工智能

3,644

社区成员

304

社区内容

发帖

与我相关

我的任务

搜索引擎人工智能个人社区浙江省·杭州市

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

欢迎各位高手分享经验

试试用AI创作助手写篇文章吧

+ 用AI写文章