关键词: AI芯片,Sohu,GPU,H100

史上最快Transformer芯片诞生了！用Sohu跑Llama 70B，推理性能已超B200十倍，超H100二十倍！刚刚，几位00后小哥从哈佛辍学后成立的公司Etached，宣布再融资1.2亿美元。

关键词: H100,AI,GPU,显卡集群,xAI,A100

在英伟达市值猛涨、各家科技巨头囤芯片的热潮中，我们往往会忽视GPU芯片是如何转变为数据中心算力的。最近，一篇SemiAnalysis的技术文章就深入解读了10万卡H100集群的构建过程。

关键词: GPU,FlashAttention2,H100,ThunderKittens,AI内核

AI算力资源越发紧张的当下，斯坦福新研究将GPU运行效率再提升一波——

关键词: H100,GPT-2,openai,A100

大神Karpathy已经不满足于用C语言造Llama了！ 他给自己的最新挑战：复现OpenAI经典成果，从基础版GPT-2开始。

关键词: 马斯克,Llama 3,AI,MoE,xAI,H100

马斯克最近哭穷表示，xAI需要部署10万个H100才能训出Grok 3，影响全球的大模型算力荒怎么解？昨天开源的这款MoE大模型，只用了1/19算力、1/19激活参数，性能就直接全面对标Llama 3-70B！

关键词: 马斯克,AI,H100,超算中心,Grok

最近，许久没有新动向的马斯克放出了大消息——他旗下的人工智能初创公司xAI将投入巨资建造一个超算中心，以保证Grok 2及之后版本的训练。这个「超级计算工厂」预计于2025年秋季建成，规模将达到目前最大GPU集群的四倍。

关键词: xAI,H100,英伟达,AI Research SuperCluster,AI超级计算机

最近几年，随着大语言模型的飞速发展与迭代，科技巨头们都竞相投入巨额财力打造超级计算机（或大规模 GPU 集群）。他们认为，更强大的计算能力是实现更强大 AI 的关键。

关键词: H100,AI框架,AI芯片,GPU,算力

提高 GPU 利用率，就是这么简单。

关键词: Llama 70B,H100,AI硬件,Llama模型

FP8和更低的浮点数量化精度，不再是H100的“专利”了！

关键词: GPU,AI算力,H800,AI芯片,H100集群

Llama 3诞生整整一周后，直接将开源AI大模型推向新的高度。