搜索
斯坦福Hazy实验室推出新一代低延迟推理引擎「Megakernel」，将Llama-1B模型前向传播完整融合进单一GPU内核，实现推理时间低于1毫秒。在B200上每次推理仅需680微秒，比vLLM快3.5倍。
面对谷歌、OpenAI等劲敌猛攻及Llama 4翻车、人才流失困境，小扎决定重组Meta GenAI团队，设AI产品、AGI基础和FAIR三大架构。
Meta推出KernelLLM，这个基于Llama 3.1微调的8B模型，竟能将PyTorch代码自动转换为高效Triton GPU内核。实测数据显示，它的单次推理性能超越GPT-4o和DeepSeek V3，多次生成时得分飙升。
英伟达，亲手打破了自己的天花板！刚刚，Blackwell单用户每秒突破了1000个token，在Llama 4 Maverick模型上，再次创下了AI推理的世界纪录。在官博中，团队放出了不少绝密武器。
2万亿Llama4巨兽一再推迟，又传出了80%团队辞职的惊人消息！目前，发言人已辟谣消息不准确，Meta或许迎来了至暗时刻。
超越DeepSeek-R1的英伟达开源新王Llama-Nemotron，是怎么训练出来的？刚刚放出的论文，把一切细节毫无保留地全部揭秘了！
大模型竞技场的可信度，再次被锤。
来自英伟达和UIUC的华人团队提出一种高效训练方法，将LLM上下文长度从128K扩展至惊人的400万token SOTA纪录！基于Llama3.1-Instruct打造的UltraLong-8B模型，不仅在长上下文基准测试中表现卓越，还在标准任务中保持顶尖竞争力。
Meta首届LlamaCon开发者大会开幕，扎克伯格在期间接受采访，回应大模型相关的一切。包括Llama4在大模型竞技场表现不佳的问题：
今天，在首届LlamaCon开发者大会上，Meta正式发布了对标ChatGPT的智能助手Meta AI App，并宣布面向开发者提供官方Llama API服务的预览版本。Meta AI App是一款智能助手，基于Llama模型打造，可通过社交媒体账号了解用户偏好、记住上下文。与ChatGPT一样，Meta AI App支持语音和文本交互，并额外支持了全双工语音交互（Full-duplex，