AI芯片的未来,未必是GPU
AI芯片的未来,未必是GPU在商业需求更明确的未来,FPGA或ASIC将成为更优的底层计算设备。
在商业需求更明确的未来,FPGA或ASIC将成为更优的底层计算设备。
就在刚刚,英伟达市值超越微软,成为全球市值最高公司!而CEO老黄的净资产也随之增至1170亿美元,成为全球TOP 11富人。随着全世界疯抢英伟达GPU,华尔街对AI的乐观情绪还在狂热飙涨!不过,老黄却担忧起来了……
基于 Transformer架构的大型语言模型在各种基准测试中展现出优异性能,但数百亿、千亿乃至万亿量级的参数规模会带来高昂的服务成本。例如GPT-3有1750亿参数,采用FP16存储,模型大小约为350GB,而即使是英伟达最新的B200 GPU 内存也只有192GB ,更不用说其他GPU和边缘设备。
给人才充足的GPU,是很重要的!
分头作战,不如选择抱团?
近日,「北极雄芯」宣布完成新一轮融资,引入云晖资本。本次融资资金将主要用于首批核心Chiplets流片及封装测试,构建国内首个可独立销售的“Chiplet产品库”。
都是可选择的一环
一年一代,展现AI领域"芯"速度
为期三天的2024年台北电脑展(Computex 2024),6月7日已落下帷幕。在这一次的展会上,AI成为贯穿一切的主题。英伟达、AMD、英特尔、高通等芯片大厂的话事人们纷纷做了主题演讲,也让这次展会的参与人数比上一届暴涨了 80%。
如何制服AI吞电兽?