
张鹏对话无问芯穹夏立雪:中国的Scaling Law是场景优势,异构算力解决大模型落地难题
张鹏对话无问芯穹夏立雪:中国的Scaling Law是场景优势,异构算力解决大模型落地难题CUDA 是英伟达的壁垒, 推理场景是算力未来的重点
来自主题: AI技术研报
3859 点击 2024-04-16 13:26
CUDA 是英伟达的壁垒, 推理场景是算力未来的重点
清华系大模型领域创业又下一城,不过这次是中间层,解决的是算力焦虑问题。
百亿token补贴,4月起免费!这次的羊毛来自清华系AI公司无问芯穹,企业与个人皆可薅~这家公司成立于2023年5月,目标是打造大模型软硬件一体化最佳算力解决方案。
算力不足仍然是制约通用人工智能发展的重要因素。GPU Utils 今年 8 月的一份数据显示,全球目前 H100 等效算力的供给缺口达到 43 万张。在解决算力不足的问题上,除了抢购和囤积英伟达,更多的方案正在浮出水面。