# 热门搜索 #
搜索
搜索: PyTorch
PyTorch官宣:告别CUDA,GPU推理迎来Triton加速新时代

用英伟达的GPU,但可以不用CUDA?PyTorch官宣,借助OpenAI开发的Triton语言编写内核来加速LLM推理,可以实现和CUDA类似甚至更佳的性能。

来自主题: AI技术研报
3481 点击    2024-09-07 11:26
Meta宣布全新训推一体加速器:完全集成PyTorch 2,性能3倍提升

Meta 正在不遗余力地想要在生成式 AI 领域赶上竞争对手,目标是投入数十亿美元用于 AI 研究。这些巨资一部分用于招募 AI 研究员。但更大的一部分用于开发硬件,特别是用于运行和训练 Meta AI 模型的芯片

来自主题: AI资讯
3922 点击    2024-04-11 21:07
3140参数Grok-1推理加速3.8倍,PyTorch+HuggingFace版来了

马斯克说到做到开源Grok-1,开源社区一片狂喜。但基于Grok-1做改动or商用,都还有点难题: Grok-1使用Rust+JAX构建,对于习惯Python+PyTorch+HuggingFace等主流软件生态的用户上手门槛高。

来自主题: AI资讯
8666 点击    2024-03-25 18:40