AI资讯新闻榜单内容搜索-OpenMOSS

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: OpenMOSS
混合架构用线性注意力还是滑窗注意力?复旦创智OpenMOSS团队:我全都要

混合架构用线性注意力还是滑窗注意力?复旦创智OpenMOSS团队:我全都要

混合架构用线性注意力还是滑窗注意力?复旦创智OpenMOSS团队:我全都要

长上下文已经成为大语言模型重要的基础能力,但长上下文也给模型架构带来了一个现实问题:全注意力能够直接建模任意位置之间的关系,却带来随序列长度显著增长的计算和显存开销;滑窗注意力和线性注意力更加高效,但效果上都存在明显的不足。因此混合架构逐渐成为当前大语言模型设计的主流。

来自主题: AI技术研报
8859 点击    2026-11-02 10:59
刚刚,创智+模思发布开源版Sora2,电影级音视频同步生成,打破闭源技术垄断

刚刚,创智+模思发布开源版Sora2,电影级音视频同步生成,打破闭源技术垄断

刚刚,创智+模思发布开源版Sora2,电影级音视频同步生成,打破闭源技术垄断

今天上午,上海创智学院 OpenMOSS 团队联合初创公司模思智能(MOSI),正式发布了端到端音视频生成模型 —— MOVA(MOSS-Video-and-Audio)。

来自主题: AI技术研报
10860 点击    2026-01-30 10:39