AI资讯新闻榜单内容搜索-SMoE

关键词: SMoE,MoE,AI,AI论文,模型训练

最近 ACL 2024 论文放榜，扫了下，SMoE（稀疏混合专家）的论文不算多，这里就仔细梳理一下，包括动机、方法、有趣的发现，方便大家不看论文也能了解的七七八八，剩下只需要感兴趣再看就好。