为什么明明很准，奖励模型就是不work？新研究：准确度 is not all you need
为什么明明很准，奖励模型就是不work？新研究：准确度 is not all you need训练狗时不仅要让它知对错，还要给予差异较大的、不同的奖励诱导，设计 RLHF 的奖励模型时也是一样。
来自主题: AI技术研报
11470 点击 2025-03-24 15:33
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
训练狗时不仅要让它知对错，还要给予差异较大的、不同的奖励诱导，设计 RLHF 的奖励模型时也是一样。
我最近一段时间，除了处理项目上的一些问题，我将我的大部分时间都在体验目前的MCP成果上，我也在和不同的朋友进行交流，其实交流下来，只要是自己亲身使用过目前的MCP工具的基本上都有一些共同的认知：
在过去的一两年中，Transformer 架构不断面临来自新兴架构的挑战。
苹果耳机和手表，也要装上摄像头了。为啥？要更AI。彭博社名记古尔曼接连爆料，苹果打算把AirPods和Apple Watch做成智能穿戴。为了让AI拥有环境感知能力，加装摄像头就成了其中的一个重要环节。
前段时间 AI 成了带货密码，而其中卖得最好的品类之一就是 AI 键盘。
在 2024 年七月的一篇博客文章中，Meta CEO 马克·扎克伯格表示，“出售访问权限”给 Meta 公开可用的 Llama AI 模型“不是 Meta 的商业模式。”
我发现对于 o1、R1 等推理模型们大家是又爱又恨，
短短2小时的AI辅导换来的是学生考试成绩跃居全国前2%的惊人成果。这种模式不仅释放了学生的时间，更颠覆了教师的角色定位：AI传授知识，教师专注于灵魂引导。Alpha School究竟如何做到的？
ISP芯片越来越被重视，与AI硬件的发展，尤其是AI眼镜离不开关系。
3月20日，丹麦制药巨头诺和诺德执行副总裁兼首席科学官Marcus Schindler在Linkedin发布了关于诺和诺德的研发组织架构调整的消息。Marcus Schindler还提到，大数据和人工智能将成为我们科学工作的核心，使我们能够加深对疾病的理解并做出明智的决定。这些变化不仅使我们能够快速创新，而且还缩短了从不确定到确定的路径，减少了周期时间和成本，同时增加了我们成功的可能性。