OpenAI陷巨大算力荒，国内大厂抢先破局！打破单芯片限制，算力效率提升33%
OpenAI陷巨大算力荒，国内大厂抢先破局！打破单芯片限制，算力效率提升33%国内AI不行，是因为芯片不行？ 我们跟国外的差距，是因为和英伟达芯片的差距过大？
来自主题: AI技术研报
7498 点击 2024-04-24 17:10
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
国内AI不行，是因为芯片不行？ 我们跟国外的差距，是因为和英伟达芯片的差距过大？
4月18日，以“AI for All，让世界充满AI”为主题的联想创新科技大会（2024 Lenovo Tech World）在上海举办。
这段时间，AI模型界是真的热闹，新的模型不断涌现，不管是开源还是闭源，都在刷新成绩。就在前几天，Meta就上演了一出“重夺开源铁王座”的好戏。发布了Llama 3 8B和70B两个版本，在多项指标上都超越了此前开源的Grok-1和DBRX，成为了新的开源大模型王者。
近年来，随着人工智能技术的飞速发展，各类AI工具如雨后春笋般窜出。继百模大战后又即将开启AI工具大战，只不过百模大战拼的是算法、算力，而AI工具大战拼的则是用户数。
2023年12月，宁德时代低调宣布在香港设立国际研发中心； 2024年3月11日，作为中国科学院在香港设立的首个国家级信息研发机构，中国科学院香港创新研究院人工智能与机器人创新中心发布了医疗多模态大模型CARES Copilot 1.0；
在AIGC时代，云计算是不可或缺的算力参与者。如何为企业大模型应用护航，帮助他们以更强的性能、更低的成本完成部署，是每个底层能力厂商都在思索的难题
在大算力的数字化时代下，大语言模型（LLM）以其令人瞩目的发展速度，正引领着技术的潮流
目前，GPU芯片紧缺成为AI行业面临的问题，另一方面，因为传统云服务计算架构与AI计算负载的不匹配，大量GPU计算资源没有被充分利用。
最近，一则数据点出了AI领域算力需求的惊人增长—— 根据业内专家的预估，OpenAI推出的Sora在训练环节大约需要在4200-10500张NVIDIA H100上训练1个月，并且当模型生成到推理环节以后，计算成本还将迅速超过训练环节。
CUDA 是英伟达的壁垒， 推理场景是算力未来的重点