AI资讯新闻榜单内容搜索-Attention

关键词: PyTorch,注意力机制,大模型,人工智能,AI,模型训练

用 FlexAttention 尝试一种新的注意力模式。

关键词: Transformer,AI框架,模型训练,人工智能

七年前，论文《Attention is all you need》提出了 transformer 架构，颠覆了整个深度学习领域。

关键词: 英伟达,AI,AI芯片,H100,算力

740 TFLOPS！迄今最强 FlashAttention 来了。

关键词: Mamba,H100,AI,人工智能,模型训练

时隔一年，FlashAttention又推出了第三代更新，专门针对H100 GPU的新特性进行优化，在之前的基础上又实现了1.5～2倍的速度提升。

关键词: H100,AI,AI显卡,算力

大模型训练推理神作，又更新了！

关键词: AI,AI视频,大模型,PAB,Pyramid Attention Broadcast

尤洋团队新作，首个基于DiT的实时视频生成方法来了！

关键词: GPU,FlashAttention2,H100,ThunderKittens,AI内核

AI算力资源越发紧张的当下，斯坦福新研究将GPU运行效率再提升一波——

关键词: 扩散模型,视觉模型,vHeat,模型训练,AI学术

如何突破 Transformer 的 Attention 机制？中国科学院大学与鹏城国家实验室提出基于热传导的视觉表征模型 vHeat。将图片特征块视为热源，并通过预测热传导率、以物理学热传导原理提取图像特征。相比于基于Attention机制的视觉模型， vHeat 同时兼顾了：计算复杂度（1.5次方）、全局感受野、物理可解释性。

关键词: 模型训练,Flash Attention,GPU,注意力机制

众所周知，大语言模型的训练常常需要数月的时间，使用数百乃至上千个 GPU。以 LLaMA2 70B 模型为例，其训练总共需要 1,720,320 GPU hours。由于这些工作负载的规模和复杂性，导致训练大模型存在着独特的系统性挑战。

关键词: Mamba,混合大模型,开源大模型,Transformer,token

Mamba时代来了？