LLM 新范式：OpenAI o1，self-play RL 和 AGI 下半场
LLM 新范式：OpenAI o1，self-play RL 和 AGI 下半场Self-play RL 开启 AGI 下半场
来自主题: AI资讯
6838 点击 2024-09-15 16:14
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
Self-play RL 开启 AGI 下半场
OpenAI o1 在数学、代码、长程规划等问题取得显著的进步。一部分业内人士分析其原因是由于构建足够庞大的逻辑数据集 <问题，明确的正确答案> ，再加上类似 AlphaGo 中 MCTS 和 RL 的方法直接搜索，只要提供足够的计算量用于搜索，总可以搜到最后的正确路径。然而，这样只是建立起问题和答案之间的更好的联系，如何泛化到更复杂的问题场景，技术远不止这么简单。
AI教母李飞飞的创业公司World Labs，正式官宣启动！
蹭下热度谈谈 OpenAI o1 的价值意义及 RL 的 Scaling law。
World Labs 的创始团队中，有 ImageNet、NeRF、Style Transfer 和 Gaussian Splats 作者在列。
如今这种科幻电影中的场景正在变为现实，来自北京大学的助理教授、博士生导师董豪团队近日提出首个通用指令导航大模型系统InstructNav。
视觉与机器人学习的深度融合。
从几周前 Sam Altman 在 X 上发布草莓照片开始，整个行业都在期待 OpenAI 发布新模型。根据 The information 的报道，Strawberry 就是之前的 Q-star，其合成数据的方法会大幅提升 LLM 的智能推理能力，尤其体现在数学解题、解字谜、代码生成等复杂推理任务。这个方法也会用在 GPT 系列的提升上，帮助 OpenAI 新一代 Orion。
人工神经网络、深度学习方法和反向传播算法构成了现代机器学习和人工智能的基础。但现有方法往往是一个阶段更新网络权重，另一个阶段在使用或评估网络时权重保持不变。这与许多需要持续学习的应用程序形成鲜明对比。
AGI 正在迎来新范式，RL 是 LLM 的秘密武器。