AI资讯新闻榜单内容搜索-CUDA

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
AITNT-国内领先的一站式人工智能新闻资讯网站 搜索
搜索: CUDA
PyTorch官宣:告别CUDA,GPU推理迎来Triton加速新时代

PyTorch官宣:告别CUDA,GPU推理迎来Triton加速新时代

PyTorch官宣:告别CUDA,GPU推理迎来Triton加速新时代

用英伟达的GPU,但可以不用CUDA?PyTorch官宣,借助OpenAI开发的Triton语言编写内核来加速LLM推理,可以实现和CUDA类似甚至更佳的性能。

来自主题: AI技术研报
4141 点击    2024-09-07 11:26
从零开始手搓GPU,照着英伟达CUDA来,只用两个星期

从零开始手搓GPU,照着英伟达CUDA来,只用两个星期

从零开始手搓GPU,照着英伟达CUDA来,只用两个星期

近日,美国一家 web3 开发公司的创始工程师之一 Adam Majmudar 分享了他「手搓 GPU」成功的经历,引发了网友们的一大片点赞。令人惊讶的是,他仅用两周时间就完成了这一脑力壮举。在 Twitter/X 的主题帖子中,Majmudar 进行了直播,一步步带我们回顾了整个过程。

来自主题: AI资讯
6645 点击    2024-05-12 15:35
Zilliz联手英伟达发布全球首个GPU加速向量数据库!CUDA加持性能飙升50倍,未来十年或暴涨1000倍

Zilliz联手英伟达发布全球首个GPU加速向量数据库!CUDA加持性能飙升50倍,未来十年或暴涨1000倍

Zilliz联手英伟达发布全球首个GPU加速向量数据库!CUDA加持性能飙升50倍,未来十年或暴涨1000倍

作为大模型的「记忆体」,向量数据库重要性不言而喻。GTC 2024上,全球首个GPU加速向量数据库诞生了,由英伟达CUDA加持,性能实现50倍提升。5年前上海厂房里的一行代码,竟开启了一个时代。

来自主题: AI资讯
6233 点击    2024-03-21 17:02
英特尔暗讽英伟达运气好,GPU如何押中AI?

英特尔暗讽英伟达运气好,GPU如何押中AI?

英特尔暗讽英伟达运气好,GPU如何押中AI?

在12月推出AI新品之际,英特尔CEO基辛格把枪口对准了英伟达。基辛格先是公开强调英伟达CUDA软件的护城河没有外界想象的那么深,接着在麻省理工的一场论坛上名褒暗贬,称英伟达在AI GPU领域极其幸运(extraordinarily lucky)。

来自主题: AI资讯
1851 点击    2023-12-27 20:20
​苹果版CUDA来了!专为自家芯片打造,M3 Max可跑每秒迭代2.8次

​苹果版CUDA来了!专为自家芯片打造,M3 Max可跑每秒迭代2.8次

​苹果版CUDA来了!专为自家芯片打造,M3 Max可跑每秒迭代2.8次

苹果新发布适用于苹果芯片的机器学习框架MLX,MLX是一个类似于NumPy的阵列框架,旨在为使用苹果硬件的研究人员简化 ML 模型的训练和部署。

来自主题: AI资讯
7644 点击    2023-12-18 14:45