AI资讯新闻榜单内容搜索-NPU

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
AITNT-国内领先的一站式人工智能新闻资讯网站 搜索
搜索: NPU
CPU反超NPU,llama.cpp生成速度翻5倍!LLM端侧部署新范式T-MAC开源

CPU反超NPU,llama.cpp生成速度翻5倍!LLM端侧部署新范式T-MAC开源

CPU反超NPU,llama.cpp生成速度翻5倍!LLM端侧部署新范式T-MAC开源

T-MAC是一种创新的基于查找表(LUT)的方法,专为在CPU上高效执行低比特大型语言模型(LLMs)推理而设计,无需权重反量化,支持混合精度矩阵乘法(mpGEMM),显著降低了推理开销并提升了计算速度。

来自主题: AI资讯
5085 点击    2024-08-13 17:42
下注NPU、发布跑一万参数大模型的服务器,高通、AMD芯片大厂都在“争”什么?

下注NPU、发布跑一万参数大模型的服务器,高通、AMD芯片大厂都在“争”什么?

下注NPU、发布跑一万参数大模型的服务器,高通、AMD芯片大厂都在“争”什么?

为期三天的2024年台北电脑展(Computex 2024),6月7日已落下帷幕。在这一次的展会上,AI成为贯穿一切的主题。英伟达、AMD、英特尔、高通等芯片大厂的话事人们纷纷做了主题演讲,也让这次展会的参与人数比上一届暴涨了 80%。

来自主题: AI资讯
8435 点击    2024-06-10 14:10
没有程序员,如何在10天内做出6万美元ARR的AI工具?

没有程序员,如何在10天内做出6万美元ARR的AI工具?

没有程序员,如何在10天内做出6万美元ARR的AI工具?

在 SaaS 和 AI 全球化发展的今天,宏大叙事已经不再是全部声音,一个小团队、甚至一个人都有机会成就一段传奇。一人公司或许会成为未来的常态。

来自主题: AI资讯
13205 点击    2024-03-16 11:51
骁龙X Elite再添新成员,AI如何放大高通PC的胜算?

骁龙X Elite再添新成员,AI如何放大高通PC的胜算?

骁龙X Elite再添新成员,AI如何放大高通PC的胜算?

PC市场正在迎来第二春。AI PC浪潮澎湃,就连苹果也仓促推出了MacBook Air M3版应对AI PC浪潮。此外,还有许多实力派在强化在PC领域的存在。

来自主题: AI资讯
5209 点击    2024-03-13 15:02
CPU、GPU、NPU,究竟谁才是“AI PC”的主角?

CPU、GPU、NPU,究竟谁才是“AI PC”的主角?

CPU、GPU、NPU,究竟谁才是“AI PC”的主角?

众所周知,如今“AI PC”可以说是消费电子行业最为热门的话题之一。对于一些不太了解技术细节,但却对这个概念心向往之的消费者而言,他们相信“AI PC”可以更智能地帮助自己完成一些不熟练的操作,或是减轻日常工作的负担。

来自主题: AI资讯
7899 点击    2024-03-13 14:59