混合架构用线性注意力还是滑窗注意力?复旦创智OpenMOSS团队:我全都要
混合架构用线性注意力还是滑窗注意力?复旦创智OpenMOSS团队:我全都要长上下文已经成为大语言模型重要的基础能力,但长上下文也给模型架构带来了一个现实问题:全注意力能够直接建模任意位置之间的关系,却带来随序列长度显著增长的计算和显存开销;滑窗注意力和线性注意力更加高效,但效果上都存在明显的不足。因此混合架构逐渐成为当前大语言模型设计的主流。
来自主题: AI技术研报
8859 点击 2026-11-02 10:59