榨干GPU性能，中兴Mariana（马里亚纳）突破显存壁垒
榨干GPU性能，中兴Mariana（马里亚纳）突破显存壁垒当大语言模型（LLM）走向千行百业，推理效率与显存成本的矛盾日益尖锐。
来自主题: AI资讯
7886 点击 2025-08-26 19:21
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
当大语言模型（LLM）走向千行百业，推理效率与显存成本的矛盾日益尖锐。
近日，随着新一代大语言模型（LLM）的一波更新，开源大模型再次成为了热门讨论话题。软件工程师、自媒体 Rohan Paul 发现了一个惊人的现象：Design Arena 排行榜上排名前十几位开源 AI 模型全部来自中国。
近年来，大语言模型（LLMs）展现出强大的语言理解与生成能力，推动了文本生成、代码生成、问答、翻译等任务的突破。代表性模型如 GPT、Claude、Gemini、DeepSeek、Qwen 等，已经深刻改变了人机交互方式。
LLM 发展至今，编程能力已经非常强大，成为了很多开发者和软件工程师的「标配」，甚至谷歌还曾宣称其 50% 的代码都是 AI 编写的。
Anthropic的“快乐教育”让OpenAI份额暴跌25% 6个月自学速成AI，我成为了LLM天才❛‿˂̵✧ 成就OpenAI、打倒OpenAI（咳咳）创立对家Anthropic，从此化身前司的心腹大患……
近年来，强化学习（Reinforcement Learning, RL）在提升大语言模型（LLM）复杂推理能力方面展现出显著效果，广泛应用于数学解题、代码生成等任务。通过 RL 微调的模型常在推理性能上超越仅依赖监督微调或预训练的模型。
在科研、新闻报道、数据分析等领域，图表是信息传递的核心载体。要让多模态大语言模型（MLLMs）真正服务于科学研究，必须具备以下两个能力
在AI浪潮席卷全球的2025年，大语言模型（LLM）已从单纯的聊天工具演变为能规划、决策的智能体。但问题来了：这些智能体一旦部署，就如「冻结的冰块」，难以适应瞬息万变的世界。
您可能已经在产品里放进了问答、总结、甚至自动报表模块，但表格一上来，体验就变味了，这不奇怪。表格是二维、带结构、还经常跨表跨文，和纯文本完全不一样；项目作者在《Tabular Data Understanding with LLMs》里把这件事掰开揉碎，从输入表示到任务版图，再到评测与未来方向都梳理清楚了。
近年来，扩散大语言模型（Diffusion Large Language Models, dLLMs）正迅速崭露头角，成为文本生成领域的一股新势力。与传统自回归（Autoregressive, AR）模型从左到右逐字生成不同，dLLM 依托迭代去噪的生成机制，不仅能够一次性生成多个 token，还能在对话、推理、创作等任务中展现出独特的优势。