Scaling Law 持续见效，让算力就快跟不上大模型的膨胀速度了。「规模越大、算力越高、效果越好」成为行业圭皋。主流大模型从百亿跨越到 1.8 万亿参数只用了1年，META、Google、微软这些巨头也从 2022 年起就在搭建 15000 卡以上的超大集群。「万卡已然成为 AI 主战场的标配。」
AI基础设施的巨额投资，和实际的AI生态系统实际收入之间，差距已经到了不可思议的地步。曾经全球AI面临的2000亿美元难题，如今已经翻成了6000亿美元。
全美TOP 5的机器学习博士痛心发帖自曝，自己实验室里H100数目是0！这也引起了ML社区的全球网友大讨论。显然，相比普林斯顿、哈佛这样动辄三四百块H100的GPU大户，更常见的是GPU短缺的「穷人」。同一个实验室的博士，甚至时常会出现需要争抢GPU的情况。
背后隐藏着OpenAI的造芯野心。
可在单张A100/H100 GPU或TPU主机上高效运行全精度推理。
M30是一款通用的边端大模型AI芯片，能够支持多种大模型。
史上最快Transformer芯片诞生了！用Sohu跑Llama 70B，推理性能已超B200十倍，超H100二十倍！刚刚，几位00后小哥从哈佛辍学后成立的公司Etached，宣布再融资1.2亿美元。
生成式 AI 推理性价比是 GPU 的 140 倍。
近日，AI芯片初创公司Etched宣布，已筹集 1.2 亿美元，向 Nvidia 发起 AI 芯片设计挑战。
千卡GPU只是开始。
