GPU训Llama 3.1疯狂崩溃,竟有大厂用CPU服务器跑千亿参数大模型? 关键词: GPU,AI,Llama 3.1,算力,AI硬件,超算集群 是时候用CPU通用服务器跑千亿参数大模型了! 来自主题: AI资讯 6795 点击 2024-08-01 16:19
拆掉英伟达护城河,细节曝光!世界最快超算用3072块AMD GPU训完超万亿参数LLM 关键词: Frontier,超算集群,AI芯片,AI硬件,英伟达 世界上最快超算集群Frontier,用8%的GPU训练出了一个万亿级规模的大模型,而且是在AMD硬件平台之上完成。研究人员将训练的细节和克服的困难写成了一篇论文,展示了如何用非英伟达的生态完成大模型训练的技术框架和细节。 来自主题: AI资讯 4522 点击 2024-01-13 20:20