全球最快的开源大模型来了——速度达到了每秒2000个tokens！ 虽然只有320亿参数（32B），吞吐量却是超过典型GPU部署的10倍以上的那种。它就是由阿联酋的穆罕默德·本·扎耶德人工智能大学（MBZUAI）和初创公司G42 AI合作推出的K2 Think。
如果我们的教科书里包含大量的污言秽语，那么我们能学好语言吗？这种荒唐的问题却出现在最先进 ChatGPT 系列模型的学习过程中。
DeepSeek涨价了。 智东西8月23日报道，8月21日，DeepSeek在其公众号官宣了DeepSeek-V3.1的正式发布，还宣布自9月6日起，DeepSeek将执行新价格表，取消了今年2月底推出的夜间优惠，推理与非推理API统一定价，输出价格调整至12元/百万tokens。这一决定，让使用DeepSeek API的最低价格较过去上升了50%。
疑似GPT-5的系统提示词，在GitHub上被曝光了！我们把这份系统提示词里的关键指令梳理成了一个 「用户可见效果 ↔ 内部要求」对照表，大家可以对比看一下
在大语言模型（LLMs）领域，自回归（AR）范式长期占据主导地位，但其逐 token 生成也带来了固有的推理效率瓶颈。此前，谷歌的 Gemini Diffusion 和字节的 Seed Diffusion 以每秒千余 Tokens 的惊人吞吐量，向业界展现了扩散大语言模型（dLLMs）在推理速度上的巨大潜力。
用扩散模型写代码，不仅像开了倍速，改起来还特别灵活！ 字节Seed最新发布扩散语言模型Seed Diffusion Preview，这款模型主要聚焦于代码生成领域，它的特别之处在于采用了离散状态扩散技术，在推理速度上表现出色。
放眼当下，到底哪个芯片跑满血DeepSeek是最快的？ 答案很意外——不是你以为的英伟达，而是一家国产GPU。 因为现在它的速度，已经直接来到了100 tokens/s！
「Tokenization（分词）是 Transformer 模型为弥补自身缺陷不得不戴上的枷锁。」
大模型记忆管理和优化框架是当前各大厂商争相优化的热点方向，MemOS 相比现有 OpenAI 的全局记忆在大模型记忆评测集上呈现出显著的提升，平均准确性提升超过 38.97%，Tokens 的开销进一步降低 60.95%，一举登顶记忆管理的 SOTA 框架，特别是在考验框架时序建模与检索能力的时序推理任务上，提升比例更是达到了 159%，相当震撼！
最近，我的AI交流群和别的一些AI群都炸锅了，话题的焦点是MiniMax-M1
