找到场景,是良性循环第一步。
大模型落地项目在屡创新高,大部分项目是探索大模型应用场景。
大模型落地项目在屡创新高。
数智前线通过中国政府采购网、中国招投标公共服务平台等五六个渠道的不完全统计发现,仅2024年第三季度,市场上公开可统计的大模型相关中标项目数,已至少有369个,远超上半年项目总数276个。大模型正加速在各行各业全面开花。
但与此同时,大模型落地面临人才和生态断层,大模型落地带来的价值不明显等问题,中标项目内容也反映出,业界在着手解决这一系列问题。如一些项目进入核心业务场景进行探索,一些项目涉及人才培训,另一些项目涉及端到端产品、软硬件一体等。
今年以来,每个月的大模型中标数在快速增长,从1月的15个,迅速膨胀至了9月的154个。
尤其进入下半年,增速还在加快。7月开始,每月的中标项目数都在上百个。尤其是9月再创新高,中标项目数达到了153个,环比涨超40%。
从项目采购地区来看,今年三季度,大模型落地范围又进一步扩大,进入到更广泛的地区,但北京、广东、上海、浙江、江苏等一线城市依然是出单最多的地区。
行业分布上,教育、运营商、政务、能源、金融等行业也再次位居前列。尤其能源行业在三季度有一大波项目密集完成招投标,头部能源企业如南方电网至少完成了20个大模型相关项目的招采工作,且其中至少三个项目中标金额超千万元。
项目的采购方们也不再仅仅是央国企打头阵,一些地方国企也在加入其中。
从中标金额看,大模型项目的采购门槛在进一步降低,除了一大部分在几十万元到几百万元不等的项目,也有不少大模型相关的项目仅在几万、十几万元级别。如中国农业大学的“食品科学与营养工程学院基于大模型的果蔬营养复配智能体研究服务采购项目”,仅10.6万元,大量的人才培训相关的项目也普遍在10万元以下。
大单方面,千万元以上的项目达到了21个,较之Q1的8个、Q2的17个的数量级有所增长。其中,亿元级别项目共2个,最大一单是中标金额2.98亿元的甘肃憨猴云科技有限公司2024年“东数西算”算力云服务采购项目。
相比上半年,2024年第三季度的中标项目,与大模型落地场景项目相关的明显增多,各行各业的企业都在探索更细分的应用场景落地。
比如,在医疗行业,有医院采购大模型赋能心理测评系统;在图书行业,有企业希望用大模型来提升图书馆运营效率、服务水平;在农业领域,结合大模型探索粮仓管理;在司法领域,有法院用大模型来大打造智能辅助办案系统……
另外,也有一些企业在进行常规数字化项目的招投标时,会明确提出要利用大模型的能力,做一些功能上的开发和升级,作为采购需求的一部分。
而硬币的另一面,目前市场上仍然还没有业界认可的高价值场景涌现出来,但Q3的中标项目表明,一些企业已开始进入到更深层次的场景,如百度智能云、科大讯飞、智谱等,与企业探索一些核心场景,或针对一些场景开始前瞻性技术研究。
2024年Q3,硬件依然是大模型相关项目的采购中,颇为重点的一个部分,约有近2成的项目,均为对算力硬件和算力云资源的直接采购,且这些项目的采购人,不仅包含一些大的先锋企业,也涵盖了不少中小企业,以及高校、医院等。
相关数据显示,今年上半年,硬件占比为六成。在这种大背景下,可以看到,软硬一体的项目正在愈发多起来。毕竟,对于服务商来说,硬件+软件的模式,更有利于赚钱,对于采购方来说,受限于目前的人才、技术等断层,企业也需要更多端到端的解决方案。
今年第三季度,大模型中标项目的另一个鲜明特点是,人才培养相关的项目愈加多起来,至少有14个项目与人才相关,这个数量远超上半年的情况。
而这种变化背后的一个大背景是,大模型相关方方面面的人才仍然十分缺乏。比如开发者和ISV这个群体,既要求懂底层训练和推理机器的运转,又要懂上层的应用需求,并在此基础上进行软件开发。但目前,这样的人才实际是非常少的。ISV能力、开发者生态不起来,大模型就落不下去。
为了解决大模型落地过程中的各种人才问题,行业内的各路玩家已经开始行动。这一点从第三季度的中标项目中可窥一斑。
一些企业试图通过和科研机构合作的方式弥补人才缺口。比如,奇瑞徽银汽车金融股份有限公司的“金融大模型科研合作项目”。一些企业也通过采购相关的培训服务,整体提升公司内部的人才水平。如中国电信股份有限公司上海分公司的“2024年上海ICNOC大模型技术系列培训项目”(最高限价9.43万元)、中国邮政集团有限公司重庆市信息技术中心的“人工智能+大模型企业内训项目采购”(5.398万元)。
目前大模型落地最大的问题之一是数据不ready。用户的数据可能是一大堆图片、Word、PDF、Excel等的混搭。
随着大模型落地的逐渐深入,这个问题正在被提到更加重要的位置。今年Q3,中标项目中与数据有关的项目数量显著提升。在我们不完全统计的369个项目中,至少有超39个项目均与数据问题直接相关,远超上半年10余个的数量级。
这些项目几乎覆盖了数据采集、治理、标注、运营管理以及语料采购等全流程。同时,也有一些企业正在试图通过大模型的技术来进一步提升自己解决数据问题的能力。
说完整体情况,我们再来详细看看目前业内主流大模型厂商的中标情况。
2024年1到9月,百度云在大模型项目拿单上,一直保持着稳步增长,Q1到Q3,至少分别中标了4个、8个、9个项目。
但不同于上半年均匀覆盖了金融、运营商、汽车、水务、政务、能源、港口等多个行业,三季度,百度云在能源行业的表现尤为突出。比如南网,2023年9月发布了自主可控大模型——“大瓦特” ,其中核心场景电力调度基于文心大模型,并通过百度智能云千帆大模型平台打造。今年Q3,南方电网至少完成了20个大模型相关项目的招采工作,百度也中标了一些项目。
值得关注的是,今年Q3,一些百度中标项目是与龙头客户探索核心业务场景,并涉及数据治理、模型安全、模型评估、工具平台等专项技术,涵盖大模型落地全生命周期。中标项目中,也采用了百度客服、数字人、代码等端到端解决方案。
2024年Q3,科大讯飞依然是拿单最猛的企业之一,至少收获了12个大模型相关项目,仅次于中国电信和中国移动,并再次赶超了自己在Q1中标6个、Q2中标11个项目的成绩。尤其是7月,包含POC测试入围等在内,科大讯飞至少中标7个项目,延续了其在6月单月中标8个项目的猛烈攻势。
从招标方来看,与上半年的情况类似,运营商依然是其出单最多的行业之一,至少有4个项目的采购方均来自于中国移动旗下公司。同时,它也在烟草领域收获颇丰,一口气拿下了中国烟草总公司浙江省公司总价值超840万元的两个项目。
金融、教育、医疗同样是其优势赛道。其Q3最大的一单,来自于为“东数西算”算力集群的大模型基础能力建设配套项目,主要负责建设大模型工具平台、教育行业大模型和医疗行业大模型,价值近亿元。
此外,不少企业和学校,正在采购科大讯飞融合了大模型能力的智能办公本硬件设备,科大讯飞在大模型办公赛道的软硬结合,成为不少用户花小成本,体验大模型时候的选择。
2024年Q3,智谱至少中标了6个相关项目。纵向对比Q1两个项目、Q2的10个项目,Q3虽然在项目数上比不上Q2,但项目金额上远超Q2,单个项目的金额从几十万元级别,更多进入到了几百万元区间段。
比如深圳清华大学研究院的“基础大模型及大模型Agent场景联合研发”项目,价值499.06万元,其中Agent是目前业界受欢迎的方向。
智谱的项目,也涉及大模型前沿落地领域的探索。比如智谱AI中标的中广核风电有限公司的大模型项目,价值575万元,目标通过大模型来帮助进行数字孪生研究和应用。这也是目前业界广泛关注的前沿方向,此前,英伟达就层宣布要在国内提供这方面的服务和工具。
另外,运营商也在向其采购大模型相关的技术前瞻规划和研究。这家公司由清华大学计算机系的技术成果转化而来,这似乎正在助其拿到更多技术项目。
和今年上半年一样,第三季度,中国电信依然是一众大模型厂商中拿单最多的玩家。据不完全统计,它至少中标了39个大模型相关项目,其中约2/3的项目涉及中国电信在全国多个城市各种性质的分公司、子公司和孙公司。
除了大量内部应用落地探索项目外,中国电信也从外部拿到了涉及教育、能源、烟草、政府等多个行业的项目。既有一些业务场景研究性的项目,比如国网上海市电力公司电力科学研究院的“基于多模态大模型的海上风电机组故障检测技术研究”项目,也有算力、政务助手研发的项目。此外,中国电信集团旗下成员安徽电信规划设计有限责任公司,还和商汤科技一起中标了2亿多元的“昆明人工智能赋能中心建设运营一体化项目”。
2024年Q3,中国移动至少中标了7个大模型相关项目。与前两个季度中标项目中多为中国移动内部企业招标不同,Q3项目多来自于外部企业,涉及到了教育、政府、文旅等行业。
其中,最大一单来自于甘肃憨猴云科技有限公司招标的“2024年‘东数西算’算力云服务采购项目”,价值2.98亿元,要求中标方依据该公司AI大模型训练要求及业务规划,提供算力服务、运维服务。
2024年第三季度,据不完全统计,中国联通在大模型招投标市场至少中标11个项目,较前两个季度增长明显。其中,来源于内部采购的项目5个,其余则均为外部项目。
从具体项目来看,大头是各行业场景开发。有基于多维感知大模型技术去进行粮食安全、仓储监管、农业金融等领域应用探索的;也有用大模型去进行孕产全周期数字管理,以及提升门诊量、患者满意度等的;这也是当下许多医院希望用去重点解决的问题。
另外,中国联通还中标了两个上千万元级别的项目,比如和广州数据集团有限公司作为联合体中标的“广州市海洋灾害综合防治体系大模型及算力资源建设项目”。
不同于今年上半年仅中标5个项目,且以算力项目居多,2024年Q3,阿里云一口气收获了至少7个大模型相关项目,且有不少均与大模型软件和应用场景相关。不难看出,阿里云的开源策略正在开始见效。
比如在烟草行业,通过与智谱AI和另一家服务商的同台竞争,阿里云最终拿下了价值529.3万元的“重庆烟草AI大模型建设项目”,负责提供智能算法模型管理平台及专有大模型建设、通用AI算法能力建设、基础应用功能建设、智能化场景应用建设等内容。
作为最晚进入B端大模型市场,并首先打枪价格战的互联网大厂,在Q2获得大模型相关项目,而且这3个中两个是算力采购。
不过,进入下半年,情况似乎有所转变。Q3火山引擎至少中标了6个大模型相关项目,且不管是预入围项目,还是实打实已经拿下的项目,全部与大模型应用开发有关。
此前有报道称,由于人力需求高、效率低,火山引擎很少承接私有化部署业务,仅在面对一些关键客户时破例。这一点在Q3中标项目中也有所体现,相关项目均采用公有云服务。
在业界普遍关注的agent上面,火山引擎和彩讯科技、科大讯飞等多家企业一起,入围了中移动(苏州)软件技术有限公司的“大模型Agent智能体应用”的合作伙伴招募。
2024年Q3,除了绝大多数项目依然通过合作伙伴参与招投标,华为至少亲自下场中标了5个大模型相关项目,覆盖了金融、运营商、出版等行业,项目数也较Q1的2个、Q2的4个项目有所增长。
与此同时,华为云在大模型领域拿单的软硬一体化趋势更加明显,大部分项目都既包含了模型及相关的平台软件,也有算力、存储、网络等硬件设施。
另外,在亲自下场矿山、煤炭、气象等行业进行一些标杆探索后,华为云的伙伴们也开始和盘古大模型一起,进入行业更核心的场景。比如今年Q3,中煤天津设计工程有限责任公司就完成了两个与盘古大模型有关项目的招投标。
2024年Q3,在大模型公开招投标市场上,浪潮系公司同样收获不小,至少中标了7个大模型相关项目,且其中约有一半项目均来源于政务领域。
从采购需求来看,这些项目大部分都同时涉及大模型所需的算力、网络、存储、安全等诸多软硬件产品,因此中标金额也都普遍在几百万元甚至上千万元级别。
浪潮系旗下浪潮信息,是AI服务器领域的主力军企业,大模型公开招投标市场中,采购的是浪潮信息的产品。浪潮云则在政务市场收获颇丰。
2024年Q3,商汤科技仅中标了至少2个项目,但在中标金额上却一骑绝尘,拿下了一个价值2.05亿元的超级大单,且另一个来自于能源行业的项目,中标金额也达到了375.82万元。
商汤科技的中标项目也呈现出软硬一体特点,既赚大模型相关的软件的钱,也赚算力的钱。此前,商汤在上海临港建成了亚洲最大的智算中心(AIDC),还在各地代运营着多家智算中心。
比如,价值上亿元的昆明人工智能赋能中心建设运营一体化项目,既要求了基础设施,也包含了生成式大语言模型、医疗大模型等人工智能底座支撑平台、以及各种应用、运营相关的服务。另一个来自于南方电网系公司招标的项目,也明确指出需“配套提供研发过程所需算力服务”。
在加速自身各类产品应用采用大模型的同时,2024年Q3,腾讯云至少中标了2个大模型相关项目。一个是对目前业界应用较多的AI代码助手的采购,另一个则是关于智能体的研究和开发。
文章来自于微信公众号“数智前线”,作者“周享玥”
【开源免费】Fay开源数字人框架是一个AI数字人项目,该项目可以帮你实现“线上线下的数字人销售员”,
“一个人机交互的数字人助理”或者是一个一个可以自主决策、主动联系管理员的智能体数字人。
项目地址:https://github.com/xszyou/Fay
【开源免费】AutoGPT是一个允许用户创建和运行智能体的(AI Agents)项目。用户创建的智能体能够自动执行各种任务,从而让AI有步骤的去解决实际问题。
项目地址:https://github.com/Significant-Gravitas/AutoGPT
【开源免费】MetaGPT是一个“软件开发公司”的智能体项目,只需要输入一句话的老板需求,MetaGPT即可输出用户故事 / 竞品分析 / 需求 / 数据结构 / APIs / 文件等软件开发的相关内容。MetaGPT内置了各种AI角色,包括产品经理 / 架构师 / 项目经理 / 工程师,MetaGPT提供了一个精心调配的软件公司研发全过程的SOP。
项目地址:https://github.com/geekan/MetaGPT/blob/main/docs/README_CN.md
【开源免费】VideoChat是一个开源数字人实时对话,该项目支持支持语音输入和实时对话,数字人形象可自定义等功能,首次对话延迟低至3s。
项目地址:https://github.com/Henry-23/VideoChat
在线体验:https://www.modelscope.cn/studios/AI-ModelScope/video_chat
【开源免费】Streamer-Sales 销冠是一个AI直播卖货大模型。该模型具备AI生成直播文案,生成数字人形象进行直播,并通过RAG技术对现有数据进行寻找后实时回答用户问题等AI直播卖货的所有功能。
项目地址:https://github.com/PeterH0323/Streamer-Sales