Nature never undertakes any change unless her interests are served by an increase in entropy. 自然界的任何变化，唯有在熵增符合其利益时方会发生——Max Planck
您有没有发现，现在市面上的AI角色扮演的Agent总有种「隔靴搔痒」的感觉？用户和AI聊天时，AI虽然能说出符合角色设定的话，但总觉得缺了点什么——就像演员在背台词，而不是真的在思考。感觉很假，也很奇怪。
如果你面前有两个AI助手：一个能力超强却总爱“离经叛道”，另一个规规矩矩却经常“答非所问”，你会怎么选？
近期arxiv最热门论文，Qwen&清华LeapLab团队最新成果： 在强化学习训练大模型推理能力时，仅仅20%的高熵token就能撑起整个训练效果，甚至比用全部token训练还要好。
清华与蚂蚁联合开源AReaL-boba²，实现全异步强化学习训练系统，有效解耦模型生成与训练流程，GPU利用率大幅提升。14B模型在多个代码基准测试中达到SOTA，性能接近235B模型。异步RL训练上大分！
随着大型语言模型（LLM）技术的不断发展，Chain-of-Thought（CoT） 等推理增强方法被提出，以期提升模型在数学题解、逻辑问答等复杂任务中的表现，并通过引导模型逐步思考，有效提高了模型准确率。
本研究由广州趣丸科技团队完成，团队长期致力于 AI 驱动的虚拟人生成与交互技术，相关成果已应用于游戏、影视及社交场景
智能体技术日益发展，但现有的许多通用智能体仍然高度依赖于人工预定义好的工具库和工作流，这极大限制了其创造力、可扩展性与泛化能力。
无监督的熵最小化（EM）方法仅需一条未标注数据和约10步优化，就能显著提升大模型在推理任务上的表现，甚至超越依赖大量数据和复杂奖励机制的强化学习（RL）。EM通过优化模型的预测分布，增强其对正确答案的置信度，为大模型后训练提供了一种更高效简洁的新思路。
如果你正在开发Agent产品，一定听过或用过Mixture-of-Agents（MoA）架构。这个让多个AI模型协作解决复杂问题的框架，理论上能够集众家之长，实际使用中却让人又爱又恨：
