AI资讯新闻榜单内容搜索-PHD-Transf

关键词: PHD-Transformer,模型训练,人工智能,ByteDance Seed

最近，DeepSeek-R1 和 OpenAI o1/03 等推理大模型在后训练阶段探索了长度扩展（length scaling），通过强化学习（比如 PPO、GPRO）训练模型生成很长的推理链（CoT），并在奥数等高难度推理任务上取得了显著的效果提升。