关键词: CNN,Transformer,Uniformer,视频理解技术,视频AI

视频理解因大量时空冗余和复杂时空依赖，同时克服两个问题难度巨大，CNN 和 Transformer 及 Uniformer 都难以胜任，Mamba 是个好思路，让我们看看本文是如何创造视频理解的 VideoMamba。

关键词: AI电商,星辰大模型,淘宝大模型,Transformer

淘天在AI电商上迈出的重要一步。Tech星球独家获悉，淘宝天猫集团自研大模型“淘宝星辰”官网已经上线，这也是淘天集团公开的首个自研大模型。官网除了显示该大模型的介绍外，还设置有“立即体验”和“登录/注册”入口，或将在不久对外开放。

关键词: Transformer,GTC,英伟达,AI框架

Transformer奠基之作拯救了现在的AI。就在GTC大会上，老黄聚齐了其中的七位作者，开启了一场深度访谈。

关键词: 模型训练,VLM, Transformer, SmartTrim,AI算法

哈工大联合度小满推出针对多模态模型的自适应剪枝算法 SmartTrim，论文已被自然语言处理顶级会议 COLING 24 接收。

关键词: Command-R,Cohere,Transforme

开源大语言模型宇宙又来了一个强劲对手。Transformer 作者参与创立的 Cohere 公司推出的大模型 Command-R 在可扩展、RAG和工具使用三个方面具有显著的优势。

关键词: Transformer Debugger,LLM,openai,GPT-4

刚刚，OpenAI超级对齐团队负责人官宣开源Transformer调试器。研究人员不用写代码，就能快速探索LLM的内部构造了！

关键词: DUSt3R,AI 3D,Transformer

这个名为DUSt3R的新工具，火得一塌糊涂，才上线没多久就登上GitHub热榜第二。

关键词: DeepMind,Llama 2,Transformer

线性RNN赢了？近日，谷歌DeepMind一口气推出两大新架构，在d基准测试中超越了Transformer。新架构不仅保证了高效的训练和推理速度，并且成功扩展到了14B。

关键词: RNN,Transformer,Mamba,模型训练,DeepMind

去年 12 月，新架构 Mamba 引爆了 AI 圈，向屹立不倒的 Transformer 发起了挑战。如今，谷歌 DeepMind「Hawk 」和「Griffin 」的推出为 AI 圈提供了新的选择。

关键词: GPT,Transformer,模型训练

GPT早已成为大模型时代的基础。国外一位开发者发布了一篇实践指南，仅用60行代码构建GPT。