各大社区迅速充满了ChatGPT用户们的“????”“它中风了?”
各大社区迅速充满了ChatGPT用户们的“????”“它中风了?”
大语言模型之大,成本之高,让模型的稀疏化变得至关重要。
这两天,Groq惊艳亮相。它以号称“性价比高英伟达100倍”的芯片,实现每秒500tokens大模型生成,感受不到任何延迟。外加谷歌TPU团队这样一个高精尖人才Buff,让不少人直呼:英伟达要被碾压了……
英伟达的产能上不来,很大程度上是因为HBM(高带宽内存)不够用了。每一块H100芯片,都会用到6颗HBM。当下,SK海力士、三星供应了90%的HBM,并且技术领先美光整整一个代际。
从英伟达的产品路线来看,在未来1-2 年,AI 芯片市场将再次天翻地覆。
随着越来越多的企业将人工智能应用于其产品,AI芯片需求快速增长,市场规模增长显著。因此,本文主要针对目前市场上的AI芯片厂商及其产品进行简要概述。
本文介绍了为什么在AI计算中要使用GPU,以及GPU与CPU的区别和作用。GPU具备强悍的并行计算能力,适合处理大量高强度并行计算任务,包括深度学习算法。
英伟达正式发布针对中国市场的4090 D,性能砍了10%,价格却没降。不过重要的是,又能买到英伟达的旗舰显卡了。
在12月推出AI新品之际,英特尔CEO基辛格把枪口对准了英伟达。基辛格先是公开强调英伟达CUDA软件的护城河没有外界想象的那么深,接着在麻省理工的一场论坛上名褒暗贬,称英伟达在AI GPU领域极其幸运(extraordinarily lucky)。
近日有消息称,OpenAI正在考虑自己制造或收购AI芯片,以解决其业务所需的高性能和低成本GPU的问题。 今天,咱们来聊聊,OpenAI都想入局的GPU,究竟是个啥?