“FP8 精度”如何赋能国产AI?
“FP8 精度”如何赋能国产AI?当前AI大模型（LLM）训练与推理对算力的巨大需求，以及传统计算精度（如FP16/BF16）面临的功耗、内存带宽和计算效率瓶颈。
来自主题: AI技术研报
5799 点击 2025-09-02 12:47
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
当前AI大模型（LLM）训练与推理对算力的巨大需求，以及传统计算精度（如FP16/BF16）面临的功耗、内存带宽和计算效率瓶颈。
DeepSeek发布DeepSeek-V3.1，使用的UE8M0 FP8 Scale针对下一代国产芯片设计
前些天，DeepSeek 在发布 DeepSeek V3.1 的文章评论区中，提及了 UE8M0 FP8 的量化设计，声称是针对即将发布的下一代国产芯片设计。
DeepSeek V3.1发布后，一则官方留言让整个AI圈都轰动了，新的架构、下一代国产芯片，总共短短不到20个字，却蕴含了巨大信息量。
在构建更强大的 AI 模型的这场竞赛中，传统路径很简单：升级到最新最强大的硬件。但 Cursor 发现释放下一代 GPU 的真正潜力远非即插即用那么简单。
DeepSeek V3.1新版正式上线，上下文128k，编程实力碾压Claude 4 Opus，成本低至1美元。在昨晚，DeepSeek官方悄然上线了全新的V3.1版本，上下文长度拓展到128k。本次开源的V3.1模型拥有685B参数，支持多种精度格式，从BF16到FP8。
昨晚凌晨，通义千问团队宣布，已对其旗舰模型 Qwen3 进行升级，并推出非思考模式（Non-thinking）的更新版本：Qwen3-235B-A22B-Instruct-2507-FP8。此次更新旨在提升模型的综合能力
Nemotron-H模型混合了Transformer和Mamba架构，使长文本推理速度提升3倍，同时还能保持高性能，开源版本包括8B和56B尺寸。训练过程采用FP8训练和压缩技术，进一步提高了20%推理速度
毅伯智算TORA3000性能超H20 1.8倍，FP8优化降本增效。
「国产大模型 + 国产引擎 + 国产芯片」的完整技术闭环正在加速形成。