算力需求仍在,服务器大有可为。
近日召开的2024年WWDC全球开发者大会上,苹果带来了全新AI系统Apple Intelligence。该AI系统适用于iPhone、iPad和Mac等操作系统,它可以优先置顶推送、校对一些摘要文本、生成图片等。
此外,苹果还宣布与OpenAI合作,今年晚些时候将通过Siri在苹果系统中集成ChatGPT,用户可以免费使用GPT-4o的能力。
在这一利好消息刺激下,截至美东时间6月13日收盘,苹果股价连涨三日,收盘总市值为3.29万亿美元,超越微软成为美股市值第一的公司。
近两年,在以ChatGPT为代表的大模型热潮下,AI服务器因其作为数据中心的核心硬件设备及算力的重要载体而广受追捧。TrendForce集邦咨询预估,2024年全球服务器整机出货量年增2.05%,AI服务器占比约12.1%。市场仍聚焦部署AI服务器,AI服务器出货占比约12.1%。
近日,信息咨询公司六度智囊接到需求,多名客户希望就服务器市场的最新动态与未来展望对不同专家进行访谈,从而对行业动向有更深入把握。六度智囊是一家商业信息检索平台,为客户提供优质且领先的研究决策支持和专家知识共享服务。目前已实现海外专家50K+,业务覆盖北美、亚洲、欧洲、东南亚等地区。
根据六度智囊促成的访谈来看,不少专家对AI服务器产业链持乐观态度。
AI服务器带动业绩飙升
在AI技术渗透率提升的背景下,服务器市场的规模正在稳步攀升。中信建投研报认为,全球AI服务器市场规模未来3年内将保持高速增长,市场规模分别为395、890、1601亿美元,对应增速为96%、125%、80%。
近日,华泰证券发布的一份研报也对全球服务器行业发展表示乐观态度。该研报引用麦肯锡的预测指出,AI大模型相关算力需求快速增加推动下,以能耗衡量,全球服务器规模将从2024年的70GW增长至390GW,对应CAGR=33%。华泰证券认为,数据中心将成为AI模型时代的稀缺资源,服务器作为核心载体将迎来快速增长。
可以推测,AI服务器厂商或将迎来业绩的加速增长。
作为全球知名服务器厂商之一的超微电脑,2024财年第三季度的营收达到38.5亿美元,同比增长200%;净利润为4.025亿美元,而上年同期仅为8580万美元;调整后每股收益为6.65美元,超出市场预期的5.78美元。
超微电脑首席执行官梁见后(Charles Liang)对此表示:“得益于AI机架规模即插即用(PnP)解决方案的强劲需求,以及我们团队开发创新的DLC设计的能力,使公司在AI基础设施市场的领导地位得到了扩展。公司目前客户基础正在强劲增长。如果不是关键零部件短缺,本季度的交付量会更高。我们预计,AI将在未来的许多季度(甚至几年)内保持强劲增长。”
受益于AI优化服务器的强劲需求,曾经的“PC”之王戴尔,也在2025财年第一季度实现了自2022年以来的首次营收同比增长,超出市场预期。其中,服务器与网络营收同比增长42%至55亿美元,创下历史新高。
全球市场份额第一的服务器ODM厂商工业富联,2024年第一季度营收1186.88亿元,同比增长12.09%;归属于上市公司股东的净利润41.85亿元,同比增33.77%。工业富联也将净利润的增长归因于公司AI服务器成长迅速和产品结构优化。
全球企业服务器首选厂商资深技术顾问在六度智囊促成的一次访谈中提到:
“预估今年通用服务器出货量有个位数增长,AI服务器出货量实现两位数的增长。从行业趋势看,两到三年内 AI 服务器的增长将大于竞争,行业玩家将有足够的蛋糕可分配。后续的增长速率取决于多模态大模型的更新发展情况。”
英伟达“点火”,PCB板块迎来新机遇
谈及AI,就不能忽略人工智能时代最大的宠儿——英伟达的存在。
早前的GTC 2024大会上,英伟达发布了令人瞩目的Blackwell B100/B200及一系列产品。其中,GB200 NVL72作为液冷机架级解决方案,通过连接36个Grace CPU和72个Blackwell GPU,不仅实现了单个大型GPU的功能,还为万亿参数的LLM推理提供30倍的实时速度提升。
二级市场上随即接连掀起多个概念热潮,PCB板块正是其中之一,今年以来,生益电子、胜宏科技、沪电股份、鹏鼎股份等公司股价涨幅均超过60%。
PCB(Printed Circuit Board),中文名称为印制电路板,又称印刷线路板,是电子元器件电气相互连接的载体,也是电子产品零件装载的基板,为电子元器件提供支撑并提供电气连接,是几乎所有电子设备的基础必需品。
在六度智囊促成的一次访谈中,前任英伟达半导体(深圳)有限公司、高级PCB &芯片封装设计师表示:
“NVL72机架通常由18个计算托盘和9个NVSwitch托盘组成。NVL72机架中的PCB总价值非常高,其中18个计算托盘的主板价值总计为14400美元,而9个NVSwitch托盘的模组板价值为7200美元。两者相加,总价值超过2万美元。
英伟达的H系列和GB系列在PCB价值量上存在显著差异。从A100到H100,单个GPU的PCB价值量增加了大约20%。然而,从H100到GB200,这一数值则激增了约200%,达到了350美元。GB系列引入了更为先进的PCB技术,例如增加了层数,并从传统的通孔板转变为高密度互连(HDI)板,这些改进显著提升了其价值。”
新一代GPU服务器PCB价值量的大幅提升,将为PCB行业带来新一轮行情。从应用领域来看,市场对高多层板(HLC)和高阶HDI产品的需求也在不断上升。
方正证券研报指出,GB200 NVL72作为全机架解决方案,将进一步提升服务器HDI的用量,AI服务器PCB正在全面向HDI进化。根据 Prismark,HDI PCB 2027年市场规模有望达到145.8亿美元,2023-2028年CAGR达6.2%,高于行业平均增速的5.4%。
在市场普遍看好GB200 NVL72的情况下,哪些PCB厂家有望搭上这趟快车?前任英伟达半导体(深圳)有限公司、高级PCB &芯片封装设计师在访谈中提到:
“目前,GB200的PCB供应商尚未完全确定,但有四家厂商进展较快,可能会获得部分订单。这四家公司分别是联能科技、沪士电子、胜宏科技和生益电子。
此前,A系列和H系列PCB的主要供应商包括欣兴、沪电、美维(TTM)、胜宏和鹏鼎五家公司,成熟阶段的市场份额分别大约为35-40%、30%和30%。目前,GB200的PCB供应份额尚无法准确预测。”
在人工智能浪潮催化下,PCB行业正逐渐复苏,迎来新一轮的增长期。据财联社此前报道,HDI产能和订单趋饱满,相关上市公司人士称“我们已经开始挑订单做”,目前亦有多家上市公司布局AI相关产品。
这一系列表现反映了市场对英伟达新一代技术的强烈信心和期待,同时也预示着AI服务器市场将迎来新一轮的增长机会和投资热潮。
电信运营商引爆AI服务器?
AI带来的机遇也伴随着挑战。国内服务器厂商仍面临业务波动的风险,需要在快速变化的市场中灵活应对。
在六度智囊促成的一次访谈中,前任美超微电脑股份有限公司经理指出:
“由于中美政策的影响,一些高端设备的进口变得困难。尽管市场上仍有这些机器在售,相比去年,询问和购买的人数有所减少,需求也出现了一定程度的下降。
专业大模型的玩家如百川、智谱、MiniMax等,在上半年算力需求的增长速度有所放缓,更新频率也降低。目前,真正的需求主要来自于字节、科大讯飞和百度等主要厂商,其他公司的表现则相对逊色。
由于高端训练芯片的禁售以及推理需求的增加,浪潮和新华三等公司的业绩可能会受到显著影响。A100、A200、H200等高端产品无疑会受到冲击。”
但他也补充称,虽然中国的人工智能服务器市场目前增速放缓,但从长远来看,这个领域依然充满希望。
不可否认的是,中国的AI服务器市场有着巨大的潜力。
IDC报告预测,2023年中国人工智能服务器市场规模将达到91亿美元,同比增长82.5%,2027年将达到134亿美元,五年年复合增长率达21.8%。
值得一提的是,电信运营商则成为这一背景下市场上采购AI服务器的主力,国产服务器份额正逐渐提升。
5月16日,中国移动2024年至2025年新型智算中心集采中标结果公布,昆仑技术、华鲲振宇、宝德计算机等7家中标,中标总金额达到约191亿元(不含税),成为迄今为止国内最大规模人工智能服务器集采。此轮集采总规模达到8054台,其中包含7994台人工智能服务器及配套产品、60台白盒交换机。
除了中国移动以外,中国电信、中国联通也已在此前开启AI服务器采购,数量分别为4175台、2503台。
中泰证券研报认为,近年来三大运营商均加强智算中心布局,AI服务器采购规模显著增加,运营商持续加大算网投资有望带动算力国产化需求。
综合专家意见,可以得出以下结论:
去年AI服务器市场的重点在于训练的部署,而今年的重心将转向推理。
英伟达选择多家供应商的原因在于其产品更新速度快,对供应周期有严格要求,而目前具备生产高阶HDI能力的厂商数量有限。供应商能否获得订单取决于其高阶HDI的量产能力、技术指标、设备能力、良率水平以及产能规模等因素。
IT生态系统的三大支柱是计算、存储和网络。随着计算能力的提升,存储需求也将随之增加。这是一个趋势,但可能不会立即显现。
文章来源于“36氪品牌”
【开源免费】graphrag是微软推出的RAG项目,与传统的通过 RAG 方法使用向量相似性作为搜索技术不同,GraphRAG是使用知识图谱在推理复杂信息时大幅提高问答性能。
项目地址:https://github.com/microsoft/graphrag
【开源免费】Dify是最早一批实现RAG,Agent,模型管理等一站式AI开发的工具平台,并且项目方一直持续维护。其中在任务编排方面相对领先对手,可以帮助研发实现像字节扣子那样的功能。
项目地址:https://github.com/langgenius/dify
【开源免费】RAGFlow是和Dify类似的开源项目,该项目在大文件解析方面做的更出色,拓展编排方面相对弱一些。
项目地址:https://github.com/infiniflow/ragflow/tree/main
【开源免费】phidata是一个可以实现将数据转化成向量存储,并通过AI实现RAG功能的项目
项目地址:https://github.com/phidatahq/phidata
【开源免费】TaskingAI 是一个提供RAG,Agent,大模型管理等AI项目开发的工具平台,比LangChain更强大的中间件AI平台工具。
项目地址:https://github.com/TaskingAI/TaskingAI
【免费】ffa.chat是一个完全免费的GPT-4o镜像站点,无需魔法付费,即可无限制使用GPT-4o等多个海外模型产品。
在线使用:https://ffa.chat/