你每月烧掉的 Token 费用，至少 20% 都是冤枉钱
你每月烧掉的 Token 费用，至少 20% 都是冤枉钱Hi，早上好。 我是洛小山，和你聊聊 AI 应用的降本增效。
来自主题: AI技术研报
7111 点击 2025-12-01 11:36
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
Hi，早上好。 我是洛小山，和你聊聊 AI 应用的降本增效。
REG 是一种简单而有效的方法，仅通过引入一个 class token 便能大幅加速生成模型的训练收敛。其将基础视觉模型（如 DINOv2）的 class token 与 latent 在空间维度拼接后共同加噪训练，从而显著提升 Diffusion 的收敛速度与性能上限。在 ImageNet 256×256 上，
被顶会ICCV 2025以554高分接收的视频理解框架来了！
Gemini 3力压全场，OpenAI坐不住了。发布Codex新版本——GPT-5.1-Codex-Max，突破上下文窗口限制，实现跨越数百万token的长时间连续工作，最长超过24小时的那种。
扩散模型「去噪」，是不是反而忘了真正去噪？何恺明携弟子出手，回归本源！
近期，RAE（Diffusion Transformers with Representation Autoencoders）提出以「 冻结的预训练视觉表征」直接作为潜空间，以显著提升扩散模型的生成性能。
众所周知，大型语言模型（LLM）的根本运作方式是预测下一个 token（词元），能够保证生成的连贯性和逻辑性，但这既是 LLM 强大能力的「灵魂」所在，也是其枷锁，将导致高昂的计算成本和响应延迟。 可
两人小团队，仅用两周就复刻了之前被硅谷夸疯的DeepSeek-OCR？？ 复刻版名叫DeepOCR，还原了原版低token高压缩的核心优势，还在关键任务上追上了原版的表现。完全开源，而且无需依赖大规模的算力集群，在两张H200上就能完成训练。
目前，最先进的对齐方法是使用知识蒸馏（Knowledge Distillation, KD）在所有 token 上最小化 KL 散度。然而，最小化全局 KL 散度并不意味着 token 的接受率最大化。由于小模型容量受限，草稿模型往往难以完整吸收目标模型的知识，导致直接使用蒸馏方法的性能提升受限。在极限场景下，草稿模型和目标模型的巨大尺寸差异甚至可能导致训练不收敛。
大模型一个token一个token生成，效率太低怎么办？