# 热门搜索 #
搜索
搜索: NPU
CPU反超NPU,llama.cpp生成速度翻5倍!LLM端侧部署新范式T-MAC开源

T-MAC是一种创新的基于查找表(LUT)的方法,专为在CPU上高效执行低比特大型语言模型(LLMs)推理而设计,无需权重反量化,支持混合精度矩阵乘法(mpGEMM),显著降低了推理开销并提升了计算速度。

来自主题: AI资讯
4637 点击    2024-08-13 17:42
骁龙X Elite再添新成员,AI如何放大高通PC的胜算?

PC市场正在迎来第二春。AI PC浪潮澎湃,就连苹果也仓促推出了MacBook Air M3版应对AI PC浪潮。此外,还有许多实力派在强化在PC领域的存在。

来自主题: AI资讯
4744 点击    2024-03-13 15:02
CPU、GPU、NPU,究竟谁才是“AI PC”的主角?

众所周知,如今“AI PC”可以说是消费电子行业最为热门的话题之一。对于一些不太了解技术细节,但却对这个概念心向往之的消费者而言,他们相信“AI PC”可以更智能地帮助自己完成一些不熟练的操作,或是减轻日常工作的负担。

来自主题: AI资讯
7409 点击    2024-03-13 14:59