在大模型的竞赛中，参数规模往往被视为性能的决定性因素。但近期，Liquid AI 的研究团队提出了一个不同寻常的案例：一个仅有 3.5 亿参数的模型，经过微调后，竟能在中短上下文的实时日语英语翻译任务上，与 GPT-4o 竞争。
英伟达也做深度研究智能体了。
过去几年，大语言模型（LLM）的训练大多依赖于基于人类或数据偏好的强化学习（Preference-based Reinforcement Fine-tuning, PBRFT）：输入提示、输出文本、获得一个偏好分数。这一范式催生了 GPT-4、Llama-3 等成功的早期大模型，但局限也日益明显：缺乏长期规划、环境交互与持续学习能力。
SpikingBrain借鉴大脑信息处理机制，具有线性/近线性复杂度，在超长序列上具有显著速度优势，在GPU上1M长度下TTFT 速度相比主流大模型提升26.5x， 4M长度下保守估计速度提升超过100x；
在大型语言模型（LLM）进行数学题、逻辑推理等复杂任务时，一个非常流行且有效的方法叫做 “自洽性”（Self-Consistency），通常也被称为“平行思考”。
OpenAI又要成立新团队了！
继π0后，具身智能基座模型在中国也终于迎来了真正的开源—— 刚刚，WALL-OSS宣布正式开源！在多项指标中，它还超越了π0。如果你是搞具身的开发者，了解它的基本资料，你就一定不会想错过它：
好玩好用的明星视频生成产品再更新，用户操作基础，模型技术就不基础。
经历了前段时间的鸡飞狗跳，扎克伯格的投资似乎终于初见成效。
自2014 年提出以来，Adam 及其改进版 AdamW 长期占据开放权重语言模型预训练的主导地位，帮助模型在海量数据下保持稳定并实现较快收敛。
