搜索
LLM 规模扩展的一个根本性挑战是缺乏对涌现能力的理解。特别是，语言模型预训练损失是高度可预测的。然而，下游能力的可预测性要差得多，有时甚至会出现涌现跳跃（emergent jump），这使得预测未来模型的能力变得具有挑战性。
在2024年的AI领域，我们正在见证一个有趣的转折。 OpenAI的进展节奏明显放缓，GPT-5迟迟未能问世，“Scaling Law”成了天方夜谭，即便是年初震撼业界的视频生成模型Sora，也未能如期实现“全面开放”的承诺。
猛料来了，OpenAI下一代旗舰模型被曝提升不如预期。消息来自The Information，具体指代号“猎户座”（Orion）的模型相对GPT-4的提升幅度，小于GPT-4相对GPT-3，已进入收益递减阶段。或许这也是奥特曼曾说，可能不会把新模型命名为GPT-5的原因之一。
据The Verge报道，OpenAI 计划在 12 月推出其下一个前沿模型 Orion。
GPT-5 要来了！ The Verge 消息，OpenAI 计划在 12 月前推出其下一代大模型，代号「Orion」，这应该就是大家一直等待中的，传说中的 GPT-5 了。
OpenAI 下一代新模型还要多久才能到来？最新的消息是 12 月份之前。 据外媒 The Verge 报道，OpenAI 计划在 12 月之前推出其下一个前沿模型 Orion（猎户座）。
继首台DGX H200之后，OpenAI再次收到了英伟达的首批工程版DGX B200。外媒爆料称，由于微软提供算力不足，OpenAI正与甲骨文开始谈判了。
GPT-5有3-5万亿参数，由7000块B100炼成？！
不到一年时间实现活跃用户数量翻倍的OpenAI正是炙手可热，但最近因为和Anthropic共同签署了一项政府安全协议又卷入非议。加上最近的SB 1047法案，AI安全领域正是沸反盈天。
OpenAI又憋大招了！据悉，下一代旗舰模型GPT-5或名为「猎户座」，由「草莓」合成的数据训练。而草莓具有极强的复杂推理（数学、编程）和语言能力，或将超越当前的任何模型的推理和生成的能力。