AI资讯新闻榜单内容搜索-AI框架

关键词: 神经网络,KAN,KAN2.0,AI框架,AI物理

爆火神经网络架构KAN，上新了！

关键词: ScanFormer,AI视频,模型训练,AI框架

作为基础的视觉语言任务，指代表达理解（referring expression comprehension, REC）根据自然语言描述来定位图中被指代的目标。REC 模型通常由三部分组成：视觉编码器、文本编码器和跨模态交互，分别用于提取视觉特征、文本特征和跨模态特征特征交互与增强。

关键词: Transformer,AI框架,Gemini,大模型

当一家人工智能公司的首席执行官更像是计算机科学家而不是推销员时，我感觉更舒服

关键词: AI框架,Mamba,Transformer,模型训练

Mamba 虽好，但发展尚早。

关键词: Mamba,无注意力大模型,AI,AI框架

Mamba 架构的大模型又一次向 Transformer 发起了挑战

关键词: Mamba,开源大模型,AI,AI框架

TII开源全球第一个通用的大型Mamba架构模型Falcon Mamba 7B，性能与Transformer架构模型相媲美，在多个基准测试上的均分超过了Llama 3.1 8B和Mistral 7B。

关键词: AI,AI框架,Falcon Mamba 7B,Mamba

只是换掉Transformer架构，立马性能全方位提升，问鼎同规模开源模型！

关键词: Transformer,AI,AI框架,模型训练,GPT

2017 年，谷歌在论文《Attention is all you need》中提出了 Transformer，成为了深度学习领域的重大突破。该论文的引用数已经将近 13 万，后来的 GPT 家族所有模型也都是基于 Transformer 架构，可见其影响之广。 作为一种神经网络架构，Transformer 在从文本到视觉的多样任务中广受欢迎，尤其是在当前火热的 AI 聊天机器人领域。

关键词: AI,AI框架,Transformer,Sakana AI,模型训练

Transformer架构层层堆叠，包含十几亿甚至几十亿个参数，这些层到底是如何工作的？当一个新奇的比喻——「画家流水线」，被用于类比并理解Transformer架构的中间层，情况突然变得明朗起来，并引出了一些有趣的发现。

关键词: Transformer,AI框架,模型训练,人工智能

七年前，论文《Attention is all you need》提出了 transformer 架构，颠覆了整个深度学习领域。