智能涌现获悉，「无问芯穹」宣布完成近5亿元A轮融资。这也是目前为止，国内AI Infra（大模型基础设施）层创业公司最大的单笔融资记录。
来自主题: AI资讯
7411 点击 2024-09-02 16:56
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
智能涌现获悉，「无问芯穹」宣布完成近5亿元A轮融资。这也是目前为止，国内AI Infra（大模型基础设施）层创业公司最大的单笔融资记录。
投资界获悉，今日（9月2日），无问芯穹正式宣布完成近5亿元融资。至此，成立仅16个月，无问芯穹已累计完成近10亿元融资。
2018年夏天，夏立雪提交了他在清华大学电子工程系的博士论文。时间往前推5年，他的导师汪玉刚刚成为副教授，有了带博士的资格，于是夏立雪成为了汪玉的第一位博士生，进入了NICS-EFC实验室，这个实验室专注于做一件事：
「无问芯穹」Infini-AI云平台已集成大模型异构千卡混训能力，是全球首个可进行单任务千卡规模异构芯片混合训练的平台。
基于 Transformer架构的大型语言模型在各种基准测试中展现出优异性能，但数百亿、千亿乃至万亿量级的参数规模会带来高昂的服务成本。例如GPT-3有1750亿参数，采用FP16存储，模型大小约为350GB，而即使是英伟达最新的B200 GPU 内存也只有192GB ，更不用说其他GPU和边缘设备。
CUDA 是英伟达的壁垒， 推理场景是算力未来的重点
清华系大模型领域创业又下一城，不过这次是中间层，解决的是算力焦虑问题。
百亿token补贴，4月起免费！这次的羊毛来自清华系AI公司无问芯穹，企业与个人皆可薅～这家公司成立于2023年5月，目标是打造大模型软硬件一体化最佳算力解决方案。
算力不足仍然是制约通用人工智能发展的重要因素。GPU Utils 今年 8 月的一份数据显示，全球目前 H100 等效算力的供给缺口达到 43 万张。在解决算力不足的问题上，除了抢购和囤积英伟达，更多的方案正在浮出水面。