AI资讯新闻榜单内容搜索-CPU

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
AITNT-国内领先的一站式人工智能新闻资讯网站 搜索
搜索: CPU
把注意力计算丢给CPU,大模型解码吞吐量提高1.76~4.99倍

把注意力计算丢给CPU,大模型解码吞吐量提高1.76~4.99倍

把注意力计算丢给CPU,大模型解码吞吐量提高1.76~4.99倍

CPU+GPU,模型KV缓存压力被缓解了。 来自CMU、华盛顿大学、Meta AI的研究人员提出MagicPIG,通过在CPU上使用LSH(局部敏感哈希)采样技术,有效克服了GPU内存容量限制的问题。

来自主题: AI技术研报
6735 点击    2024-12-28 11:38
为什么AI对GPU的要求高,而不是CPU?

为什么AI对GPU的要求高,而不是CPU?

为什么AI对GPU的要求高,而不是CPU?

在人工智能(AI)领域,特别是深度学习和神经网络训练中,GPU(图形处理单元)已经成为不可或缺的硬件。但为什么AI对GPU的要求高,而不是CPU(中央处理单元)呢?让我们通过一个生动的比喻来揭开这个谜团。

来自主题: AI资讯
3544 点击    2024-11-04 09:52
原来AI手机是被CPU卡了脖子

原来AI手机是被CPU卡了脖子

原来AI手机是被CPU卡了脖子

没错,就是CPU——Central Processing Unit,中央处理器。

来自主题: AI资讯
2654 点击    2024-10-24 10:42
AI手机与AIPC要安全,为什么离不开这款服务器CPU?

AI手机与AIPC要安全,为什么离不开这款服务器CPU?

AI手机与AIPC要安全,为什么离不开这款服务器CPU?

随着生成式AI的火速发展,AI应用开始与各种信息设备“嫁接”,AI手机、AI PC,甚至AI汽车都变得越发司空见惯。

来自主题: AI资讯
3527 点击    2024-09-30 13:25
最强服务器CPU来了!AI性能直接翻倍

最强服务器CPU来了!AI性能直接翻倍

最强服务器CPU来了!AI性能直接翻倍

服务器CPU领域持续多年的核心数量大战,被一举终结了!

来自主题: AI技术研报
6324 点击    2024-09-27 18:12
CPU巨头惊天并购!高通要吃掉英特尔?

CPU巨头惊天并购!高通要吃掉英特尔?

CPU巨头惊天并购!高通要吃掉英特尔?

活久见,英特尔要被高通收购了?如果成功收购,全球半导体行业将掀起滔天巨浪。而这桩半导体行业有史以来最大规模并购案,也将改变全球科技产业格局。GPU崛起,CPU成受害者。网友直呼:倒反天罡!

来自主题: AI资讯
5999 点击    2024-09-21 16:43
昂贵LLM的救星?Nature新研究提出新型忆阻器,比Haswell CPU高效460倍

昂贵LLM的救星?Nature新研究提出新型忆阻器,比Haswell CPU高效460倍

昂贵LLM的救星?Nature新研究提出新型忆阻器,比Haswell CPU高效460倍

前些天,OpenAI 发布了 ο1 系列模型,它那「超越博士水平的」强大推理性能预示着其必将在人们的生产生活中大有作为。但它的使用成本也很高,以至于 OpenAI 不得不限制每位用户的使用量:每位用户每周仅能给 o1-preview 发送 30 条消息,给 o1-mini 发送 50 条消息。

来自主题: AI技术研报
4687 点击    2024-09-17 19:14
中国首个网络大模型,pick了CPU

中国首个网络大模型,pick了CPU

中国首个网络大模型,pick了CPU

当电信网络用上了大模型,会是一种什么体验?

来自主题: AI资讯
8239 点击    2024-09-13 21:06