从GPT-2到Llama 4，大模型这几年到底「胖」了多少？从百亿级密集参数到稀疏MoE架构，从闭源霸权到开源反击，Meta、OpenAI、Mistral、DeepSeek……群雄割据，谁能称王？
OpenAI真的要开源了！奥特曼官宣，即将开源自GPT-2以来的首款推理模型，可在消费级硬件上运行。同时，OpenAI又拿到了最高400亿单轮融资，估值直冲3000亿。
一夜之间，OpenAI更新三大动向，开源、融资、用户暴增。第一，将开源一个具备推理能力的大语言模型，包含参数权重那种。上一次这样开源还是6年前推出GPT-2。
DeepSeek彻底引爆大模型应用落地。
2019 年问世的 GPT-2，其 tokenizer 使用了 BPE 算法，这种算法至今仍很常见，但这种方式是最优的吗？来自 HuggingFace 的一篇文章给出了解释。
2024年不愧是“具身智能元年”。 在刚刚结束的第十三届中国创新创业大赛新技术赛道中，一家具身机器人公司脱颖而出，斩获总决赛亚军，跻身全国50强。
那时GPT-2刚刚发布，我很清楚技术的发展轨迹，这样的模型表面上是互联网或网页的模型，但肯定会带来一些非常有趣的东西。于是我打电话给Nick和其他的朋友们，我说“我们应该弄清楚怎么打造这些东西”。
今年 4 月，AI 领域大牛 Karpathy 一个仅用 1000 行代码即可在 CPU/fp32 上实现 GPT-2 训练的项目「llm.c」曾经引发机器学习社区的热烈讨论。
传说，国王山路亚尔生性残忍多疑，杀死背叛他的王后，从此每晚迎娶新娘，又在天亮时将其处死。为了终止暴行，大臣的女儿山鲁佐德自愿出嫁，用故事吸引国王，一直讲了一千零一夜。
近日，关于 Open AI 被投企业 Physical Intelligence (PI) 的一系列报道，让人们关注到具身智能大模型引发的机器人时代变革。
