英伟达迷你超算遭友商嘲讽:宣传FP4算力,实际“不如买个游戏电脑”

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
AITNT-国内领先的一站式人工智能新闻资讯网站 搜索
英伟达迷你超算遭友商嘲讽:宣传FP4算力,实际“不如买个游戏电脑”
6666点击    2025-01-10 16:10

老黄在CES上发布的迷你超算Project DIGITS,开启了AI超算的PC时刻。


但随即也引发了不小争议,还遭到了大佬的贴脸嘲讽。


在AMD和英特尔都工作过的芯片设计专家Raja Koduri实名吐槽道:


FLOPs除以4,价格翻倍,这就是在CES上stay grounded的秘诀。


英伟达迷你超算遭友商嘲讽:宣传FP4算力,实际“不如买个游戏电脑”


后来Koduri在网友追问下给出了详细解释,表示英伟达宣传的算力是在FP4精度下的,而Project DIGITS在FP16下的表现,可能就和5070差不多,甚至接近Intel Arc B580(售价250美元)


英伟达迷你超算遭友商嘲讽:宣传FP4算力,实际“不如买个游戏电脑”


友商Tiny Corp更是抓住这一点猛地一波输出,直接表示,人们趋之若鹜的的所谓3000美元超算,就是纯纯的诈骗。


最后还不忘再补一刀说,3000美元还不如买个游戏电脑。


英伟达迷你超算遭友商嘲讽:宣传FP4算力,实际“不如买个游戏电脑”


关于细节,Tiny Corp在另一则推文里表示,FP4根本就没法用,Project DIGITS在FP8精度下只有500TFLOPs,顺便宣传自家的产品有4PFLOPs,是Project DIGITS的8倍。


英伟达迷你超算遭友商嘲讽:宣传FP4算力,实际“不如买个游戏电脑”


史上最迷你超算,售价22000起


英伟达介绍,这一波发布的Project DIGITS,可以说是目前体积最小的AI超算。


Project DIGITS将于今年5月份由官方和顶级合作商一同发售,起售价3000美元,约合人民币两万二。


英伟达迷你超算遭友商嘲讽:宣传FP4算力,实际“不如买个游戏电脑”


它搭载了英伟达全新Grace Blackwell超级芯片——GB10,FP4运算能力达到了1PFLOPs


GB10包含了英伟达Blackwell GPU,具有最新一代CUDA核心和第五代Tensor Cores。


CPU则是与联发科合作研发的Grace CPU,基于Arm架构,拥有20个节能核心。


CPU和GPU之间,则是通过NVLink-C2C芯片到芯片互连连接,另外还有128GB统一内存和4TBNVMe存储。


英伟达迷你超算遭友商嘲讽:宣传FP4算力,实际“不如买个游戏电脑”


据介绍,Project DIGITS可以在桌面端运行200B大模型,还可以把两台组合到一起,跑405B的模型。


英伟达迷你超算遭友商嘲讽:宣传FP4算力,实际“不如买个游戏电脑”


此外英伟达还给用户配有AI软件库,包括NGC目录和开发者门户中的软件开发工具包、编排工具、框架和模型等,可用NVIDIA NeMo框架微调模型、NVIDIA RAPIDS库加速数据科学,运行PyTorch等常见框架。


还可以利用NVIDIA Blueprints和NVIDIA NIM微服务构建智能AI应用。


并且在桌面系统上对大模型搞完开发或推理之后,还可以无缝部署到加速云或数据中心基础设施里。


英伟达的桌面CPU计划


之前有传言称,英伟达打算在今年进军消费级CPU市场。


这次的Project DIGITS中,20个节能核心的Grace CPU就是英伟达的第一次试水。


黄仁勋在投资者演讲中回答分析师的问题时表示,英伟达与联发科共同设计了一款“可以广泛销售的”节能CPU。


不过,搭载新CPU的Project DIGITS主要面向AI从业人员,主要运行Linux系统,离成为大众消费市场设备还存在距离。


但老黄也明确表示,英伟达对于桌面级的CPU“有进一步计划”,具体细节则要之后再透露。


不过这已经足够证明,英伟达想要进军消费级CPU的说法属实。


并且老黄也对此充满了信心:


我们将使其成为主流产品,将竭尽全力支持专业和高质量的软件,而PC(制造商)将向最终用户提供它。


另外,与英伟达合作的联发科可能也有自己的野心。


老黄表示,联发科既可以把产品提供给英伟达,也可能自行保留并推向市场。


不过至少在目前看来,黄仁勋依然认为与联发科的合作是一个双赢的结果。


参考链接:


[1]https://www.tomshardware.com/tech-industry/artificial-intelligence/nvidias-usd3-000-mini-ai-supercomputer-draws-scorn-from-raja-koduri-and-tiny-corp-ai-server-startup-suggests-users-just-buy-a-gaming-pc


[2]https://www.theverge.com/2025/1/8/24338939/nvidia-jensen-huang-hints-arm-desktop-cpu


[3]https://www.reuters.com/technology/nvidia-ceo-says-mediatek-will-be-able-sell-nvidias-desktop-cpus-2025-01-07/


文章来微信公众号“量子位”,作者“克雷西”


英伟达迷你超算遭友商嘲讽:宣传FP4算力,实际“不如买个游戏电脑”

关键词: AI , 英伟达 , 迷你超算 , AI芯片
AITNT-国内领先的一站式人工智能新闻资讯网站
AITNT资源拓展
根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考
1
微调

【开源免费】XTuner 是一个高效、灵活、全能的轻量化大模型微调工具库。它帮助开发者提供一个简单易用的平台,可以对大语言模型(LLM)和多模态图文模型(VLM)进行预训练和轻量级微调。XTuner 支持多种微调算法,如 QLoRA、LoRA 和全量参数微调。

项目地址:https://github.com/InternLM/xtuner