AI芯片战争:英伟达是科技之巅,还是下一个思科?
AI芯片战争:英伟达是科技之巅,还是下一个思科?ChatGPT 横空出世,让原本有些沉寂的人工智能技术再次成为人们关注的焦点。
ChatGPT 横空出世,让原本有些沉寂的人工智能技术再次成为人们关注的焦点。
韩国AI芯片初创公司异军突起,政府支持强。
提高 GPU 利用率,就是这么简单。
众所周知,大语言模型的训练常常需要数月的时间,使用数百乃至上千个 GPU。以 LLaMA2 70B 模型为例,其训练总共需要 1,720,320 GPU hours。由于这些工作负载的规模和复杂性,导致训练大模型存在着独特的系统性挑战。
近日,美国一家 web3 开发公司的创始工程师之一 Adam Majmudar 分享了他「手搓 GPU」成功的经历,引发了网友们的一大片点赞。令人惊讶的是,他仅用两周时间就完成了这一脑力壮举。在 Twitter/X 的主题帖子中,Majmudar 进行了直播,一步步带我们回顾了整个过程。
微软&清华最新研究,打破GPT系列开创的Decoder-Only架构——
在一个昏暗的机箱里,一台 RTX 3090 GPU「唱」着经典英语儿歌《一闪一闪亮晶晶》(Twinkle,Twinkle,Little Star)的旋律。
有数据统计,2022年全年,全国数据中心耗电量达到2700亿千瓦时,占全社会用电量约3%。预计2024年全国数据中心的耗电量将在3400亿至3600亿度之间,到2025年可能增长至4000亿至4400亿度。
尽管苹果在生成式 AI 方面的进展没有像谷歌、Meta 和微软等竞争对手那样高调,但该公司一直在进行相关研究,其构筑新生态的思路总是显得与众不同。
据《华尔街日报》7日报道,苹果公司正在为数据中心服务器研发设计运行人工智能(AI)软件的芯片,这一举措或将使苹果在日益激烈的AI领域军备竞赛中占据优势。