AI具备的能力，本质上来自算法和训练大模型所用的数据，数据的数量和质量会对大模型起到决定性作用。此前OpenAI工作人员表示，因没有足够多的高质量数据，Orion项目（即GPT-5）进展缓慢。不得已之下，OpenAI招募了许多数学家、物理学家、程序员原创数据，用于训练大模型。
2024又是AI精彩纷呈的一年。LLM不再是AI舞台上唯一的主角。随着预训练技术遭遇瓶颈，GPT-5迟迟未能问世，从业者开始从不同角度寻找突破。以o1为标志，大模型正式迈入“Post-Training”时代；开源发展迅猛，Llama 3.1首次击败闭源模型；中国本土大模型DeepSeek V3，在GPT-4o发布仅7个月后，用 1/10算力实现了几乎同等水平。
OpenAI，有大事发生！最近各种爆料频出，比如OpenAI已经跨过「递归自我改进」临界点，o4、o5已经能自动化AI研发，甚至OpenAI已经研发出GPT-5？OpenAI员工如潮水般爆料，疯狂暗示内部已开发出ASI。
最近几个月，从各路媒体、AI 社区到广大网民都在关注 OpenAI 下一代大模型「GPT-5」的进展。
OpenAI 代号为 Orion 的新 AI 项目遇到了一个又一个问题。
GPT-5被曝效果远不达预期。 OpenAI连续12场发布会刚刚结束，大家最想看的GPT-5/4.5影子都没有，于是华尔街日报这边爆料了。
LLM 规模扩展的一个根本性挑战是缺乏对涌现能力的理解。特别是，语言模型预训练损失是高度可预测的。然而，下游能力的可预测性要差得多，有时甚至会出现涌现跳跃（emergent jump），这使得预测未来模型的能力变得具有挑战性。
在2024年的AI领域，我们正在见证一个有趣的转折。 OpenAI的进展节奏明显放缓，GPT-5迟迟未能问世，“Scaling Law”成了天方夜谭，即便是年初震撼业界的视频生成模型Sora，也未能如期实现“全面开放”的承诺。
猛料来了，OpenAI下一代旗舰模型被曝提升不如预期。消息来自The Information，具体指代号“猎户座”（Orion）的模型相对GPT-4的提升幅度，小于GPT-4相对GPT-3，已进入收益递减阶段。或许这也是奥特曼曾说，可能不会把新模型命名为GPT-5的原因之一。
据The Verge报道，OpenAI 计划在 12 月推出其下一个前沿模型 Orion。
