算力不足仍然是制约通用人工智能发展的重要因素。GPU Utils 今年 8 月的一份数据显示，全球目前 H100 等效算力的供给缺口达到 43 万张。在解决算力不足的问题上，除了抢购和囤积英伟达，更多的方案正在浮出水面。
国内首个以国产全功能GPU为底座的大规模算力集群，正式落地了！这便是来自摩尔线程的KUAE智算中心，全国产千卡千亿模型训练平台。
大模型的领域工程，是要将行业模型的参数规模做小，任务执行效率更高的同时，节省算力和部署成本。
尽管我们无法预料大模型会生成什么，也不知道算力和数据的极限在哪里，但生成式 AI 革命是不可阻挡的。
随着大型语言模型（LLM）的发展，从业者面临更多挑战。如何避免 LLM 产生有害回复？如何快速删除训练数据中的版权保护内容？如何减少 LLM 幻觉（hallucinations，即错误事实）? 如何在数据政策更改后快速迭代 LLM？这些问题在人工智能法律和道德的合规要求日益成熟的大趋势下，对于 LLM 的安全可信部署至关重要。
计算芯片未来可能不是英伟达的专利，AMD也要来了。
没想到，在ChatGPT爆火后的一年里，竟然出现了一个隐藏“Boss”——量子位获悉，百度、360等互联网大厂均已开始基于昇腾部署AI模型；而知乎、新浪、美图这样全速推进AI业务的公司，背后同样出现了华为云昇腾AI云服务的身影。
现在ChatGPT等大模型一大痛点：处理长文本算力消耗巨大，背后原因是Transformer架构中注意力机制的二次复杂度。
浪潮信息发布源2.0基础大模型，并一口气开源了1026亿、518亿、21亿三个大模型！而在编程、推理、逻辑这些老大难问题上，源2.0都表现出了令人印象深刻的性能。
刚刚，英伟达发布了目前世界最强的AI芯片H200，性能较H100提升了60%到90%，还能和H100兼容。算力荒下，大科技公司们又要开始疯狂囤货了。
