AI资讯新闻榜单内容搜索-泛化能力

关键词: MoE,多模态,多模态大模型

多模态大模型做“多任务指令微调”，大模型可能会“学得多错得多”，因为不同任务之间的冲突，导致泛化能力下降。

关键词: Transformer,涌现,顿悟Grokking

过度训练让中度模型出现了结构泛化能力。

关键词: 谷歌大模型,Transformer,DeepMind,泛化能力

针对Transformer，谷歌DeepMind一项新的发现引起了不小争议： 它的泛化能力，无法扩展到训练数据以外的内容。