AI资讯新闻榜单内容搜索-小模型

关键词: Transformer,DCFormer,AI框架,模型训练

改进Transformer核心机制注意力，让小模型能打两倍大的模型！

关键词: OCR小模型,VIMTS,模型训练,扩散模型

通过提示查询生成模块和任务感知适配器，大一统框架VimTS在不同任务间实现更好的协同作用，显著提升了模型的泛化能力。该方法在多个跨域基准测试中表现优异，尤其在视频级跨域自适应方面，仅使用图像数据就实现了比现有端到端视频识别方法更高的性能。

关键词: 小模型,过拟合,Softmax,自监督学习方法,模型训练

语言建模领域的最新进展在于在极大规模的网络文本语料库上预训练高参数化的神经网络。在实践中，使用这样的模型进行训练和推断可能会成本高昂，这促使人们使用较小的替代模型。然而，已经观察到较小的模型可能会出现饱和现象，表现为在训练的某个高级阶段性能下降并趋于稳定。

关键词: 小模型,过拟合,Phi-3,Mixtral 8x22B,模型训练

当前最火的大模型，竟然三分之二都存在过拟合问题？

关键词: 小模型,AI数学,AI推理,Mistral-7B,微调

对于小型语言模型（SLM）来说，数学应用题求解是一项很复杂的任务。

关键词: GPT-4,小模型,商汤日日新,商汤AI

是的，就是在一场《街头霸王》游戏现场PK中，发生了这样的名场面。

关键词: 苹果,OpenELM,Llama 3,Phi-3,Transformer

从Llama 3到Phi-3，蹭着开源热乎劲儿，苹果也来搞事情了。

关键词: 大模型,小模型,算力,Llama 3

这段时间，AI模型界是真的热闹，新的模型不断涌现，不管是开源还是闭源，都在刷新成绩。就在前几天，Meta就上演了一出“重夺开源铁王座”的好戏。发布了Llama 3 8B和70B两个版本，在多项指标上都超越了此前开源的Grok-1和DBRX，成为了新的开源大模型王者。

关键词: Infini-Transformer,上下文,谷歌AI,谷歌大模型, Transformer,模型训练

它通过将压缩记忆（compressive memory）整合到线性注意力机制中，用来处理无限长上下文

关键词: Mistral,欧洲openai,chaGPT,Anthropic

Mistral 可以说是欧洲目前最有代表性的 AI 公司，开源小模型、MoE、专注欧洲多语言市场等等，都让它与美国的几家大模型公司如 OpenAI、Anthropic 截然不同。