解读CUDA
解读CUDA“既然我可以直接使用 PyTorch，为什么还要费心使用 CUDA 呢?”
来自主题: AI技术研报
8808 点击 2025-12-03 09:51
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
“既然我可以直接使用 PyTorch，为什么还要费心使用 CUDA 呢?”
谷歌不再甘当「云房东」，启动激进的TPU@Premises计划，直接要把算力军火卖进Meta等巨头的自家后院，剑指英伟达10%的营收。旗舰TPU v7在算力与显存上彻底追平英伟达 B200，谷歌用「像素级」的参数对标证明：在尖端硬件上，黄仁勋不再寂寞。通过拥抱PyTorch拆解CUDA壁垒，谷歌正在用「私有化部署+同级性能」的组合拳，凿开万亿芯片帝国的坚固城墙。
刚刚，才离开 Meta 不久的 Soumith Chintala 发布了一条推文，盛赞 Thinking Machines Lab（以下简称 TML）的人很了不起（incredible）。与此同时，这位 PyTorch 之父也更新了自己的个人介绍，正式官宣加入 TML，并表示正在这家估值已达 500 亿美元的创业公司「创造新东西（Building new things）」 。
他被12所大学拒绝，签证差点作废。后又被DeepMind拒了三次，在亚马逊做着最不起眼的测试工作。十二年后，这个被世界反复拒绝的人，写出了改变AI格局的PyTorch。
3年时间，年收入达2.8亿美元，估值40亿美元。这是AI推理赛道跑出的最快独角兽。2025年10月28日，Fireworks AI宣布完成2.54亿美元C轮融资，由Lightspeed、Index Ventures和Evantic领投，英伟达、AMD、红杉资本、Databricks等跟投。创始人乔琳是PyTorch框架的核心创建者、复旦大学计算机系校友。
他们又推出了 Coral NPU，可用于构建在低功率设备上持续运行的 AI。具体来说，其可在可穿戴设备上运行小型 Transformer 模型和 LLM，并可通过 IREE 和 TFLM 编译器支持 TensorFlow、JAX 和 PyTorch。
具体而言，Verlog 是一个多轮强化学习框架，专为具有高度可变回合（episode）长度的长时程（long-horizon） LLM-Agent 任务而设计。它在继承 VeRL 和 BALROG 的基础上，并遵循 pytorch-a2c-ppo-acktr-gail 的成熟设计原则，引入了一系列专门优化手段，从而在任务跨度从短暂交互到数百回合时，依然能够实现稳定而高效的训练。
AI自动生成的苹果芯片Metal内核，比官方的还要好？
小扎AI豪赌，要翻车了？MSL成立两月，从PyTorch元老到新招募的硅谷天才，至少八人曝出离职。甚至，还有不少直奔OpenAI。内部重组频繁，战略摇摆不定，Meta超级智能梦裂痕满满。
加拿大AI新贵Cohere获5亿美元融资、估值68亿美元，前Meta FAIR副总裁、PyTorch与Llama重要推手Joelle Pineau加盟出任首席AI官，或将开启企业AI新战局。