在深度学习模型的推理与训练过程中，绝大部分计算都依赖于底层计算内核（Kernel）来执行。计算内核是运行在硬件加速器（如 GPU、NPU、TPU）上的 “小型高性能程序”，它负责完成矩阵乘法、卷积、归一化等深度学习的核心算子运算。
NPU很好，但用不上。 我知道现在风口是 AI ，自家产品不沾点 AI 都不好意思拿出手 —— 但你们这些 “ AIPC ” 的宣传，是不是有点过了？
AMD携手Stability AI宣布推出世界首款适用于Stable Diffusion 3.0 Medium的B16 NPU模型。该模型可直接运行于AMD XDNA 2 NPU之上，能够显著提升图像生成质量。新模型作为Amuse 3.1平台的组件之一亮相，于今天一起发布。
vivo AI研究院联合港中文以及上交团队为了攻克这些难题，从训练数据和模型结构两方面，系统性地分析了如何在MLLM训练中维持纯语言能力，并基于此提出了GenieBlue——专为移动端手机NPU设计的高效MLLM结构方案。
近日，抖音内容技术团队开源了 ContentV，一种面向视频生成任务的高效训练方案。该方案在多项技术优化的基础上，使用 256 块 NPU，在约 4 周内完成了一个 8B 参数模型的训练。尽管资源有限，ContentV 在多个评估维度上取得了与现有主流方案相近的生成效果。
Pangu Ultra MoE 是一个全流程在昇腾 NPU 上训练的准万亿 MoE 模型，此前发布了英文技术报告[1]。最近华为盘古团队发布了 Pangu Ultra MoE 模型架构与训练方法的中文技术报告，进一步披露了这个模型的细节。
现在，跑准万亿参数的大模型，可以彻底跟英伟达Say Goodbye了。
推荐大模型也可生成式，并且首次在国产昇腾NPU上成功部署！
近年来，AI成为了国内手机市场上的最大热点。根据市研机构IDC的定义，AI手机有几个关键指标和特性：算力大于30TOPS的NPU、支持生成式AI模型的SoC、可以端侧运行各种大模型。而就在过去一年，国内AI手机市场迅猛发力。华为、小米、vivo、OPPO、荣耀等手机厂商，均已迅速在旗下产品上接入各自的云端或端侧AI大模型。
安卓首款3nm、PC级Arm V9架构、第八代NPU——天玑9400，成为了移动AI芯片的最新最强成果！ 相比上一代生成式AI芯片天玑9300，其AI能力更上一层楼，荣登苏黎世ETHZ移动SoC AI性能榜单之首。
