AI资讯新闻榜单内容搜索-Transforme

关键词: Transformer,WALT,AI视频

今天，李飞飞携斯坦福联袂谷歌，用Transformer生成了逼真视频，效果媲美Gen-2比肩Pika。2023年俨然已成AI视频元年！

关键词: 扩散模型,Mamba,Transformer

替代注意力机制，SSM 真的大有可为？

关键词: Transformer,涌现,顿悟Grokking

过度训练让中度模型出现了结构泛化能力。

关键词: Mamba,状态空间模型,Transformer

现在ChatGPT等大模型一大痛点：处理长文本算力消耗巨大，背后原因是Transformer架构中注意力机制的二次复杂度。

关键词: Transformer,选择性状态空间模型,Mamba

屹立不倒的 Transformer 迎来了一个强劲竞争者。在别的领域，如果你想形容一个东西非常重要，你可能将其形容为「撑起了某领域的半壁江山」。但在 AI 大模型领域，Transformer 架构不能这么形容，因为它几乎撑起了「整个江山」。

关键词: Transformer,GPT-3,Nano-GPT

Transformer大模型工作原理究竟是什么样的？一位软件工程师打开了大模型的矩阵世界。黑客帝国中，「矩阵模拟」的世界或许真的存在。

关键词: LLM,大模型,Transformer

只需不到9行代码，就能在CPU上实现出色的LLM推理性能。英特尔® Extension for Transformer创新工具包中的LLM Runtime为诸多模型显著降低时延，且首个token和下一个token的推理速度分别提升多达40倍和2.68倍，还能满足更多场景应用需求。

关键词: Transformer,深度学习

Transformer 架构可以说是近期深度学习领域许多成功案例背后的主力军。构建深度 Transformer 架构的一种简单方法是将多个相同的 Transformer 「块」（block）依次堆叠起来，但每个「块」都比较复杂，由许多不同的组件组成，需要以特定的排列组合才能实现良好的性能。

关键词: trRosettaRNA,Transformer,生物AI

大模型能否理解自己所说，Hinton和LeCun再次吵起来了。LeCun新论文证明，GPT-4回答问题准确率仅为15%，自回归模型不及人类。AI大佬的激战再次掀起。Hinton在线直接点名LeCun，说他对AI接管风险的看法对人类的影响微乎其微。 这意味着，他把自己的意见看得很重，而把许多其他同样有资格的专家的意见看得很轻

关键词: AI硬件,AI穿戴,Transformer

这个名为「先知」的初创公司，希望开发出一种可穿戴设备，让你体验在清醒梦中醒来的感觉……《盗梦空间》要成真了？