红杉：重金购入GPU后，AI行业收入缺口达到5000亿美元
红杉：重金购入GPU后，AI行业收入缺口达到5000亿美元囤 GPU 真的像修铁路一样，是一项划算的投资吗？
来自主题: AI资讯
9584 点击 2024-07-06 19:07
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
囤 GPU 真的像修铁路一样，是一项划算的投资吗？
纯国产GPU的万卡集群，它来了！ 而且还是国内首个全功能GPU，兼容CUDA的那种。
Scaling Law 持续见效，让算力就快跟不上大模型的膨胀速度了。「规模越大、算力越高、效果越好」成为行业圭皋。主流大模型从百亿跨越到 1.8 万亿参数只用了1年，META、Google、微软这些巨头也从 2022 年起就在搭建 15000 卡以上的超大集群。「万卡已然成为 AI 主战场的标配。」
AI基础设施的巨额投资，和实际的AI生态系统实际收入之间，差距已经到了不可思议的地步。曾经全球AI面临的2000亿美元难题，如今已经翻成了6000亿美元。
全美TOP 5的机器学习博士痛心发帖自曝，自己实验室里H100数目是0！这也引起了ML社区的全球网友大讨论。显然，相比普林斯顿、哈佛这样动辄三四百块H100的GPU大户，更常见的是GPU短缺的「穷人」。同一个实验室的博士，甚至时常会出现需要争抢GPU的情况。
背后隐藏着OpenAI的造芯野心。
可在单张A100/H100 GPU或TPU主机上高效运行全精度推理。
M30是一款通用的边端大模型AI芯片，能够支持多种大模型。
史上最快Transformer芯片诞生了！用 Etched chip 跑Llama 70B，推理性能已超B200十倍，超H100二十倍！刚刚，几位00后小哥从哈佛辍学后成立的公司Etached，宣布再融资1.2亿美元。
生成式 AI 推理性价比是 GPU 的 140 倍。