谷歌奇袭英伟达:整柜TPU外售加速交付,推理每美元性能领先GB200五成
谷歌奇袭英伟达:整柜TPU外售加速交付,推理每美元性能领先GB200五成英伟达最近头疼的事儿可不止老黄那一件。
搜索
英伟达最近头疼的事儿可不止老黄那一件。
谷歌推出TPU 8tx和8i Max,分别面向机密计算与长上下文任务,预计明年上市,其TPU相关销售额到2028年有望超过1350亿美元。
谷歌Project Suncatcher原型卫星首次在轨运行Google TPU,并调用预部署的Gemma 4生成和回传完整AI响应,迈出太空AI数据中心实际运行第一步。
谷歌与Meta联合开源TorchTPU,使TPU成为PyTorch原生设备,并完成vLLM、SGLang、Hugging Face、Ray、TorchTitan等主流项目接入,CUDA的软件生态护城河开始松动。
训练方案已在8000颗TPU上完成验证。
Inferact开源TPU巨型算子与浪潮信息发布元脑SD200 Ultra超节点服务器,两家公司分别用谷歌TPU v7和128颗本土AI芯片,通过算子融合让Kimi K3推理性能提升3倍以上,且浪潮信息让K3自主编写超级算子。
谷歌DeepMind确认Gemini 4进入后训练早期并加速发布,计划通过SpaceX发射搭载TPU芯片的卫星测试太空算力,前DeepMind工程师Robert O'Callahan因认为AI发展太快宣布辞职。
推理创业公司Inferact用自研的megakernel内核结合DeepSeek的DSpark推测解码框架,让16块谷歌TPU v7运行Kimi K3达到每秒709个token,比同条件下16块英伟达GB200快57%。
英伟达死守的推理性价比神话,碎了。
近来文生图模型发展迅速,但每篇工作多是独立地引入一整套模型、数据和训练设计,然后用私有的数据训出来了一个亮眼的模型。