多亏Transformer，Mamba更强了！仅用1%计算量达新SOTA
多亏Transformer，Mamba更强了！仅用1%计算量达新SOTAAttention is all you need.
来自主题: AI技术研报
10614 点击 2024-08-22 16:44
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
Attention is all you need.
今年 3 月份，英伟达 CEO 黄仁勋举办了一个非常特别的活动。他邀请开创性论文《Attention Is All You Need》的作者们齐聚 GTC，畅谈生成式 AI 的未来发展方向。
2017 年，谷歌在论文《Attention is all you need》中提出了 Transformer，成为了深度学习领域的重大突破。该论文的引用数已经将近 13 万，后来的 GPT 家族所有模型也都是基于 Transformer 架构，可见其影响之广。 作为一种神经网络架构，Transformer 在从文本到视觉的多样任务中广受欢迎，尤其是在当前火热的 AI 聊天机器人领域。
用 FlexAttention 尝试一种新的注意力模式。
不开颅，把 ChatGPT 装进脑子里？
七年前，论文《Attention is all you need》提出了 transformer 架构，颠覆了整个深度学习领域。
Tenstorrent推AI芯片挑战昂贵HBM，追求成本效益。
最近，Latent Space发布的播客节目中请来了Meta的AI科学家Thomas Scialom。他在节目中揭秘了Llama 3.1的一些研发思路，并透露了后续Llama 4的更新方向。
用来运行 Llama 3 405B 优势明显。
740 TFLOPS！迄今最强 FlashAttention 来了。