搜索
多模型Agent系统显然是未来的趋势。cursor 的一篇很不错的文章。他们的最新研究表明，将前沿模型作为规划者和协调者，与一个更廉价的“主力”模型搭配，可以大幅降低项目中总token的成本，从而实现 15 倍的成本改进。
投资界从投资方处获悉，智谱已完成对AI基础设施企业中科加禾（XCore Sigma）的战略收购，缔造智谱近年最大的收购案例之一。这次被智谱买下的是一支编译器团队。中科加禾成立于2023年，创始人崔慧敏是清华计算机系毕业生、中科院计算所研究员、博士生导师，也是这一硬核技术领域为数不多走向创业一线的女性学者。
一睁眼，Anthropic上新模型，让Claude Opus 4.6来给您拜！年！了！
他们又推出了 Coral NPU，可用于构建在低功率设备上持续运行的 AI。具体来说，其可在可穿戴设备上运行小型 Transformer 模型和 LLM，并可通过 IREE 和 TFLM 编译器支持 TensorFlow、JAX 和 PyTorch。
近日，来自 CMU 的 Catalyst Group 团队发布了一款 PyTorch 算子编译器 Mirage，用户无需编写任何 CUDA 和 Triton 代码就可以自动生成 GPU 内核，并取得更佳的性能。
2024 年 7 月，清华大学计算机系 PACMAN 实验室发布开源深度学习编译器 MagPy，可一键编译用户使用 Python 编写的深度学习程序，实现模型的自动加速。
最多可支持 10000+ 个并发线程。
不降低大模型算法精度，还能把芯片的算力利用效率提升 2~10 倍，这就是编译器的魅力。
StepCoder将长序列代码生成任务分解为代码完成子任务课程来缓解强化学习探索难题，对未执行的代码段以细粒度优化；还开源了可用于强化学习训练的APPS+数据集。
Buddy Compiler 端到端 LLaMA2-7B 推理示例已经合并到 buddy-mlir仓库[1]主线。我们在 Buddy Compiler 的前端部分实现了面向 TorchDynamo 的第三方编译器，从而结合了 MLIR 和 PyTorch 的编译生态。