一招缓解LLM偏科！调整训练集组成，“秘方”在此 | 上交大&上海AI Lab等
一招缓解LLM偏科！调整训练集组成，“秘方”在此 | 上交大&上海AI Lab等大幅缓解LLM偏科，只需调整SFT训练集的组成。
来自主题: AI技术研报
6042 点击 2025-06-11 12:01
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
大幅缓解LLM偏科，只需调整SFT训练集的组成。
大家好，这两个月我完成了一款产品——Videa。虽然过去一年，我做了很多东西，但是部分是套壳，部分是把别人的想法做出来，真正我一直想做的，其实是一款借助AI创作短视频的产品。现在，我把它做出来了。
Something New ：为了更好地沉淀 AI 时代的投资 insights，我们上线了 「AGI 投资手册」知识库（点击文末阅读原文链接查看），欢迎留下建议与 ideas，共建 AGI 时代的投资指南。也可以在评论区留言你认为最值得关注的 AI 股票，我们会为留言的朋友送出最新「 AGI 投资报告」 PDF。
最近，全球 AI 和机器学习顶会 ICLR 2025 公布了论文录取结果：由 IDEA、清华大学、北京大学、香港科技大学（广州）联合团队提出的 ChartMoE 成功入选 Oral (口头报告) 论文。据了解，本届大会共收到 11672 篇论文，被选中做 Oral Presentation（口头报告）的比例约为 1.8%
澳大利亚国立大学团队提出了ARINAR模型，与何凯明团队此前提出的分形生成模型类似，采用双层自回归结构逐特征生成图像，显著提升了生成质量和速度，性能超越了FractalMAR模型，论文和代码已公开。
AI co-scientist系统基于Gemini 2.0开发，能够协助科研人员生成新的研究假设、制定实验方案，并通过自我改进提升结果质量。在生物医学应用中，AI co-scientist成功预测了药物再利用方向、提出新的治疗靶点，并解释了抗菌耐药机制。
游戏开发不仅需要生成新颖的内容，更需要在保持游戏世界一致性、多样性和用户修改持续性方面达到高度平衡。近日，一篇发表在Nature上的研究论文World and Human Action Models towards Gameplay Ideation揭示了如何利用生成式AI模型推动游戏玩法创意的生成。
芯片强者AMD最新推出科研AI，o1-preview竟成天选打工人？！ 注意看，只需将科研idea和相关笔记一股脑丢给AI，研究报告甚至是代码就能立马出炉了。
天啦撸！！AI想出来的idea，还真有人写成论文了。甚至预印本arXiv、博客、代码全都有了。今年8月，Sakana AI（由Transformer论文8位作者的最后一位Llion Jones创业成立）这家公司推出了史上首位“AI科学家”，且一登场就一口气生成了十篇完整学术论文。
MAPLE实验室提出通过强化学习优化图像生成模型的去噪过程，使其能以更少的步骤生成高质量图像，在多个图像生成模型上实现了减少推理步骤，还能提高图像质量。