打破“算力存储通信”三堵墙,昇腾超节点给出十万亿大模型训推“最优解”

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
打破“算力存储通信”三堵墙,昇腾超节点给出十万亿大模型训推“最优解”
8991点击    2026-09-25 10:11

打破“算力存储通信”三堵墙,昇腾超节点给出十万亿大模型训推“最优解”


架构突破打底,工程细节搭桥,昇腾把千卡统成一台计算机。


如果说2026年的AI圈只有一个关键词,那必然会是“智能体(Agentic AI)”。


从能聊到能干,智能体浪潮下,AI在各领域开始加速赋能,AI编程的爆发进一步带来生产力的质变,在各行各业掀起变革。


随之而来的是AI推理需求呈指数级爆发,2030预计全球每月Token消耗数将超过120千万亿,暴涨24倍。


为了支撑更强的Agent处理更复杂的任务,模型也越来越大,顶级MoE模型参数量直接来到“十万亿级”,训练压力同步增长。


既要支持更大规模模型高效训练,又要在推理端支持更长上下文,实现更低时延、更低成本、更高效率,这样的需求传统服务器难以应对,“超节点”逐渐成为AI基础设施领域行业公认的更优解决路径。


理想状态下,大量AI加速器紧密耦合成为一台更高密度的AI计算单元,超节点可以解决大模型训练和推理中的“存储墙”和“通信墙”。


但理想很丰满,现实很骨感,超节点落地需要克服诸多挑战。全球芯片巨头、云厂商、服务器大厂争先发布“超节点”产品,但真正商业化落地的很少。


如何真正突破集群内计算、存储等各类资源的通信瓶颈?如何真正通过系统性架构创新优化,实现全域资源统一高效调度?让成千上万张计算卡像一台计算机一样高效运转,绝非易事。


自今年WAIC上真机亮相后,昇腾950超节点备受业内关注,近日在华为全联接大会2026期间正式上市,成为了业界最大规模的商用超节点。


打破“算力存储通信”三堵墙,昇腾超节点给出十万亿大模型训推“最优解”


▲华为全联接大会2026昇腾展区


继去年昇腾910C超节点发布首次将“超节点”带入行业视野、引领行业向超节点方向前进后,昇腾为何能成为业界最大规模商用落地超节点?从技术验证迈入规模化商用落地攻克了哪些关键挑战、为何昇腾950超节点能成为当前万亿模型训推的最佳选择?


或许正如华为昇腾计算产品线总裁张迪煊在演讲中所说,大模型每一波迭代都带来新的AI需求,而昇腾超节点用大带宽、低时延和内存统一编址的确定架构,来应对AI变化的不确定性。


打破“算力存储通信”三堵墙,昇腾超节点给出十万亿大模型训推“最优解”


▲华为昇腾计算产品线总裁张迪煊


让超节点真正大规模落地,昇腾先交卷了。


让千卡像“一台计算机”一样运行背后:


硬核技术创新与工程化落地缺一不可


此次上市的昇腾950超节点包括Atlas 950 SuperPoD液冷超节点和Atlas 850E风冷超节点,两者场景各有侧重,基于各自核心技术升级点,很好地解决了AI时代不同场景、不同类型企业在解决AI基础设施建设中所面临的一系列挑战。


Atlas 950 SuperPoD液冷超节点,1024颗高性能NPU、1300多个灵衢互联套片、4000多个光模块和19万根CableTray,让千张卡像一台超级计算机一样协同工作,是一个极为复杂的系统性工程。


打破“算力存储通信”三堵墙,昇腾超节点给出十万亿大模型训推“最优解”


纵观市面上的超节点产品,昇腾950超节点能够率先规模化商用落地,原因不难分析,但极难模仿:


首先是极强的技术领先性——基于强大的技术力,突破既往行业中很多关键技术瓶颈;其次是扎实的工程化落地能力——深耕AI基础设施、懂场景懂客户懂痛点,把超节点落地中每一个细节都做到位,让客户不是只能“感觉好、用不上”,而是真正能“用得上、用得好”。


以Atlas 950 SuperPoD液冷超节点为例,从技术创新角度来看,其在芯片和互联两个层面都实现了突破。


在芯片微架构创新方面,其重点提升算子开发易用性和效率,过去需要开发者手动管理的数据搬运、格式转换、通信同步、缓存策略,都下沉到硬件里,写代码更简单,开发效率更高。


互联层面,灵衢高速互联技术发挥着关键作用,统一的互联协议实现1024卡统一内存编址,让跨卡远程内存访问就像操作本地内存,芯片互联带宽相比上代提升2.1倍,给超大模型的高频通信提供了保障。可以说灵衢互联成为了打破通信瓶颈的“高速路”。


当然,还有不少“黑科技”我们不再一一枚举,同样值得注意的是Atlas 950 SuperPoD液冷超节点在工程化落地层面的创新。


昇腾自研的TPSU电源模块可以提供储能能力,进而支撑训练推理业务供电波峰诉求。


散热方面,高性能昇腾950 NPU单个模组有950W功耗,昇腾通过高密铲齿+冰川铠甲冷板技术,以及多水路串联设计,单块冷板就能带走2000W的热量,提高单位空间散热效率。


正交架构设计也是亮点之一,其实现了柜内零线缆全电互联,单柜就可以减少6000多根线缆,一个1024超节点可以省下50千米的铜线,在根除线缆老化与故障风险、大幅提升系统可靠性、降低时延的同时,实现了资源的节省。


此外,柜间光互联使用了业界唯一的光模块液冷技术,在时延降低的同时,一个超节点4000多个光模块所节省的电力消耗相当于数千户家庭的年用电量。链路级重传技术、2+2光模块保护技术则攻克了“超节点光模块易闪断”的行业顽疾,保证了超节点的可靠性、支撑超节点规模扩展。


我们看到,基于海量技术创新和扎实的工程化落地突破,昇腾950超节点真正实现了计算、存储、通信三大系统高效协同打通,让整个超节点系统具备落地的基础,而非徒有“性能参数”的空中楼阁。


最终在实际大模型训推场景中,Atlas 950 SuperPoD形成了相比行业其他解决方案突出的领先优势。


训练侧,其训练效率有着1.5-1.7倍提升,基于器件、网络、系统三重可靠设计,实现了万卡超节点集群实现月级稳定训练。


推理侧,昇腾超节点在中心高并发推理场景中可以实现低时延、高吞吐推理,推理性能2-3倍提升、时延低于10ms,实现万亿模型训推一体化。


值得一提的是,昇腾是国内唯一商用支持mxFP8低精训练和全流程支持mxFP4推理的厂商。


一系列优势特性令昇腾迅速得到行业认可,今天,昇腾超节点已经广泛应用于互联网、运营商、金融、教育、医疗、交通、制造等行业。


在峰会现场展区,我们看到在昇腾超节点加持下,蚂蚁阿福的模型训练实现了“离线持续优化、在线实时纠偏”的能力,场景实际响应、吞吐大幅提升,最终让健康AI服务响应更快、解读更精准;德赛西威则基于昇腾超节点构建高性能算力底座,训推性能超过业界GPU平台。


昇腾超节点进一步推动了Agentic AI和AI编程规模化落地,证明了“超节点”这一形态的可行性、极强的应用潜力,从技术和工程化落地层面给行业树立了蓝本,让行业可以基于超节点规划和建设万亿模型的算力基础设施。


十万亿级大模型训推的阶段性“最优解”,被昇腾950超节点拿下了。


从液冷数据中心走向企业级风冷机房


无需改造直接部署,直指AI推理核心痛点


相比面向液冷数据中心的Atlas 950液冷超节点,Atlas 850E风冷超节点则更加聚焦企业级通用风冷机房的超节点升级改造。


这款产品背后体现的对行业用户痛点、场景需求的精准洞察,在工程化落地过程中攻克的一系列细节难题,都是超节点能够真正率先实现规模化商用的关键,是昇腾超节点的核心差异化优势之一。


打破“算力存储通信”三堵墙,昇腾超节点给出十万亿大模型训推“最优解”


纵观行业,大量企业级通用风冷机房面临液冷基建改造周期长、成本高的现实门槛,制约了超节点技术的规模化普及。而Atlas 850E风冷超节点基于自研相变散热技术,无需对现有风冷机房做液冷改造,标准风冷机柜可以直接上架部署,支持从32卡到768卡。


无需改造直接把超节点技术部署到传统机房,这在过去是企业“想都不敢想”的。


在企业级推理场景中,Atlas 850E风冷超节点原生覆盖FP8、mxFP8、HiF8、INT8、mxFP4全量低精格式,可以稳定实现10ms级时延推理。


对于Agent多轮对话、高频KV缓存读写负载等需求需求,其都能很好地满足,支持多卡高效并行推理和内存资源池化。


在实际场景中,通过超节点的异构PD分离方案根据业务负载动态调整PD配比、叠加大规模专家并行优化,最终Atlas 850E风冷超节点在万亿参数MoE模型推理上实现了5-10ms的极致低时延,单卡吞吐比业界风冷集群提升2.5倍。


Atlas 850E风冷超节点的商业规模化落地,让更多场景的客户有了新的选择,尤其是对于中小企业级场景客户来说,解决了他们最为关心的迁移成本、迁移效率等问题。


让超节点从液冷数据中心走向更广泛的通用风冷机房,让更多企业可以高效、低成本地实现Agentic AI推理业务规模化落地,昇腾做到了。


软件系统给硬件装上“强大脑”


昇腾开放生态加速成长


超节点夯实底层算力基础,上层昇腾软件生态的茁壮成长则进一步释放昇腾潜力,让超节点更快落地千行万业,实现赋能。


如果说硬件是把算力“拧成一股绳”系统软件就是统一调度的“大脑”,完善的软件生态是昇腾从“算力强大”走向“好用易用”的关键。


昇腾超节点的系统软件包括灵衢总线管理、灵衢系统服务以及超节点管理等组件。其中灵衢系统高阶服务支持跨物理节点统一内存编址,编程模式和执行模型与单系统语义一致,支持实现超节点域内的Load/Store内存语义访问。


基于内存语义和拓扑编排等技术,1024卡超节点域内集合通信性能提升1.6倍。实测中,在大EP的跨卡通信场景,1K小包通信,耗时从70微秒降到8.6微秒,性能提升8倍。


可以说,昇腾超节点系统软件,基于高性能、高可用核心能力,充分释放了超节点的算力潜能。


最后,昇腾软件生态的开源开放也进一步加速着昇腾超节点在各领域的落地,从各个环节深度赋能开发者。


去年,昇腾完成了CANN和Mind系列的全面开源开放,这是昇腾生态迈出的重要一步,全面开源开放、兼容主流生态,让昇腾的易用性进一步提升,对开发者们来说,AI开发从“专家专属”走向了“人人可用”。


如今CANN社区月活开发者突破5200多名,位列中国开源项目活跃度排名第一。


打破“算力存储通信”三堵墙,昇腾超节点给出十万亿大模型训推“最优解”


从入门部署、算子开发、训练推理到性能调优,昇腾从全流程帮助开发者,智能体时代,Agentic覆盖整个链路,进一步让编程和创新变得更简单。


昇腾软件生态让昇腾从“好用”迈向“易用”,每个开发者都能充分利用昇腾优势,落地优秀AI应用。


结语:从行业首发到规模落地


昇腾重塑Agent时代算力底座


面对行业超节点“只见产品发布、不见商业落地”的困局,昇腾一手紧握底层技术架构创新领先、一手紧握扎实工程化落地能力,系统性地解决了超节点实际落地过程中的一系列“卡点、难点”,让超节点不再是纸面好看部署困难,而是真正能用、好用、易用。


而液冷、风冷双形态,则实现了全场景覆盖,让更多中小企业以低门槛享受到超节点带来的优势。


可以说,昇腾超节点就像班中的模范生,在这场AI剧变时代的算力基建大考中,率先交卷了,为十万亿级大模型时代AI基础设施建设树立了新标杆。


从昇腾落地的路径中我们也不难看出,未来超节点竞争的本质是“硬件架构+系统工程+软件生态”的综合考验,基于技术和生态飞轮,先发者的优势或进一步扩大。


打破“算力存储通信”三堵墙,昇腾超节点给出十万亿大模型训推“最优解”


无论如何,AI掀起的算力变革已经开始,而昇腾的“硅基黑土地”,正试图为AI无处不在、充满不确定性的未来提供一种更坚实、更确定的选择。


文章来自于微信公众号 “智东西”,作者 “智东西”

AI转型,免费服务,就找AITNT
AITNT资源拓展
根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考
1
AI代理

【开源免费】Browser-use 是一个用户AI代理直接可以控制浏览器的工具。它能够让AI 自动执行浏览器中的各种任务,如比较价格、添加购物车、回复各种社交媒体等。

项目地址:https://github.com/browser-use/browser-use


2
智能体

【开源免费】AutoGPT是一个允许用户创建和运行智能体的(AI Agents)项目。用户创建的智能体能够自动执行各种任务,从而让AI有步骤的去解决实际问题。

项目地址:https://github.com/Significant-Gravitas/AutoGPT


【开源免费】MetaGPT是一个“软件开发公司”的智能体项目,只需要输入一句话的老板需求,MetaGPT即可输出用户故事 / 竞品分析 / 需求 / 数据结构 / APIs / 文件等软件开发的相关内容。MetaGPT内置了各种AI角色,包括产品经理 / 架构师 / 项目经理 / 工程师,MetaGPT提供了一个精心调配的软件公司研发全过程的SOP。

项目地址:https://github.com/geekan/MetaGPT/blob/main/docs/README_CN.md