万卡集群的AI数据中心，到底是如何运作的？
万卡集群的AI数据中心，到底是如何运作的？2024年7月22日凌晨，xAI创始人Elon Musk在推特上正式宣布，在凌晨4:20分正式启动了世界上最强的AI训练集群。 这个训练集群建设在美国田纳西州孟菲斯市，集合了10 万个液冷H100芯片。
来自主题: AI资讯
4012 点击 2024-11-08 09:56
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
2024年7月22日凌晨，xAI创始人Elon Musk在推特上正式宣布，在凌晨4:20分正式启动了世界上最强的AI训练集群。 这个训练集群建设在美国田纳西州孟菲斯市，集合了10 万个液冷H100芯片。
NVIDIA DGX GB200 超级计算集群数据中心部署指南解读，NVIDIA AI 工厂部署与 Broadcom AI 计算 ASIC 光学连接技术
红杉资本的报告曾指出，AI产业的年产值超过6000亿美元，才够支付数据中心、加速GPU卡等AI基础设施费用。而现在一种普遍说法认为，基础模型训练的资本支出是“历史上贬值最快的资产”，但关于GPU基础设施支出的判定仍未出炉，GPU土豪战争仍在进行。
Crusoe数据中心预计明年投入使用，2026年电力容量达到1吉瓦。 智东西10月16日消息，10月15日，数据中心公司Crusoe签署了价值34亿美元的合资协议。
性能翻倍的原因是，端到端建立整个数据中心和AI工厂，并开发软件。
数据中心设计转向高功率密度应对AI需求增长。
OpenAI正与甲骨文洽谈，计划联手构建一个全球最顶尖的AI数据中心。
近日，初创公司Lumen Orbit要放大招，该公司要把数据中心搬到太空去，在太空建立AI超级计算机。Lumen Orbit已经拿到Y Combinator的投资，计划明年就发射第一颗卫星，上面搭载的GPU比之前所有送上太空的GPU都要强大100倍。
最近，国外的一份研究报告揭秘了 OpenAI、围绕和谷歌在 AI Infra 层的布局，我们将文章提炼出了核心观点，并进行精校翻译。
大摩认为，GPU供应仍然比较紧张，需求继续超过供应。过去6个月中H100租赁价格有所下降，但价格的绝对水平表明硬件的投资回报率非常高，回本期在一年以内。