AI资讯新闻榜单内容搜索-vLLM

关键词: DeepSeek,俞星凯,Nano-vLLM,vLLM

仅用不到1200行代码，实现最小化且完全可读的vLLM！DeepSeek研究员俞星凯搞了个开源项目引得大伙拍手叫绝。项目名为Nano-vLLM（纳米级-vLLM），有三大特点：快速离线推理：推理速度可与vLLM相媲美

关键词: AI,Megakernel,模型训练,人工智能

斯坦福Hazy实验室推出新一代低延迟推理引擎「Megakernel」，将Llama-1B模型前向传播完整融合进单一GPU内核，实现推理时间低于1毫秒。在B200上每次推理仅需680微秒，比vLLM快3.5倍。

关键词: AI,工业AI,vLLM,Ada-KV,模型训练

改进KV缓存压缩，大模型推理显存瓶颈迎来新突破—— 中科大研究团队提出Ada-KV，通过自适应预算分配算法来优化KV缓存的驱逐过程，以提高推理效率。

关键词: Llama 405B,AI,模型训练,Chatbot Arena,AI

用来运行 Llama 3 405B 优势明显。

关键词: Taco-LLM,vLLM 框架, TensorRT-LLM

大模型在今年的落地，除了对用 AI 对已有业务进行改造和提效外，算力和推理的优化，可能是另外一项重要的实践了。这在腾讯的两个完全不同的业务上有着明显的体现。