仅需15%全量Attention！「RTPurbo」阿里Qwen3长文本推理5倍压缩方案来了
仅需15%全量Attention！「RTPurbo」阿里Qwen3长文本推理5倍压缩方案来了为什么大模型厂商给了 128K 的上下文窗口，却在计费上让长文本显著更贵？
来自主题: AI技术研报
7100 点击 2025-12-24 10:07
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
为什么大模型厂商给了 128K 的上下文窗口，却在计费上让长文本显著更贵？
抽奖式的生图体验，确实让很多设计师在尝鲜之后又默默打开了 Photoshop。于是乎，阿里千问团队再次出手，开源了一个叫 Qwen-Image-Layered 的模型，试图从底层逻辑上解决这个问题。
我真栓Q了！围观了场狼人杀，看得我汗流浃背……
AI不仅会做PPT，写代码，它还能理解更深层次的问题。在美国的一项偏重于文化领域的新基准测试中，中国开源模型Qwen3夺冠，DeepSeek的R1跻身前六，力压多家全球顶级的明星模型。
近日，来自 Meta、香港科技大学、索邦大学、纽约大学的一个联合团队基于 JEPA 打造了一个视觉-语言模型：VL-JEPA。据作者 Pascale Fung 介绍，VL-JEPA 是第一个基于联合嵌入预测架构，能够实时执行通用领域视觉-语言任务的非生成模型。
最近几天，一张开源模型的等级列表在 X 上被疯狂转载。 从夯到拉，国产开源模型排在了数一数二的位置，DeepSeek、Qwen、Kimi、智谱、还有 MiniMax 是全球开源模型的前五名。
就在刚刚，英伟达正式开源发布了其新一代AI模型：NVIDIA Nemotron 3。Nemotron 3 系列由三种型号组成：Nano、Super 和 Ultra。官方介绍其具备强大的智能体、推理和对话能力。
当前，AI 领域的研究者与开发者在关注 OpenAI、Google 等领先机构最新进展的同时，也将目光投向了由前 OpenAI CTO Mira Murati 创办的 Thinking Machines Lab。
昨天，苹果一篇新论文在 arXiv 上公开然后又匆匆撤稿。原因不明。论文中，苹果揭示了他们开发的一个基于 TPU 的可扩展 RL 框架 RLAX。是的，你没有看错，不是 GPU，也不是苹果自家的 M 系列芯片，而是谷歌的 TPU！还不止如此，这篇论文的研究中还用到了亚马逊的云和中国的 Qwen 模型。
本该绽放的Llama 4黯然失色，Meta内部地震频发：首席AI科学家离职、600人裁员、顶级大佬空降、开源战略转向。最新模型Avocado被曝延期且套壳Qwen，扎克伯格如何在对手狂飙中绝地反击？