它通过将压缩记忆（compressive memory）整合到线性注意力机制中，用来处理无限长上下文
来自主题: AI资讯
7567 点击 2024-04-13 20:07
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
它通过将压缩记忆（compressive memory）整合到线性注意力机制中，用来处理无限长上下文
谷歌又放大招了，发布下一代 Transformer 模型 Infini-Transformer。
昨天的谷歌Next大会可是太精彩了，谷歌一连放出不少炸弹。 - 升级「视频版」Imagen 2.0，下场AI视频模型大混战 - 发布时被Sora光环掩盖的Gemini 1.5 Pro，正式开放 - 首款Arm架构CPU发布，全面对垒微软/亚马逊/英伟达/英特尔
这次，谷歌要凭「量」打败其他竞争对手。 当地时间本周二，谷歌在 Google’s Cloud Next 2024 上发布了一系列 AI 相关的模型更新和产品，包括 Gemini 1.5 Pro 首次提供了本地音频（语音）理解功能、代码生成新模型 CodeGemma、首款自研 Arm 处理器 Axion 等等。
谷歌最强大模型Gemini 1.5 Pro今天起，“全面”对外开放。 目前完全免费，开发者可以通过API调用的方式使用，普通玩家也可以在谷歌AI Studio中直接体验。
硅谷AI人才之争，正在陷入疯狂。 马斯克本人都亲自盖章：“这是我见过最疯狂的人才大战。”
谷歌终于更新了Transformer架构。最新发布的Mixture-of-Depths（MoD），改变了以往Transformer计算模式。它通过动态分配大模型中的计算资源，跳过一些不必要计算，显著提高训练效率和推理速度。
AI人才争夺战拉响！谷歌四大高管挖走了OpenAI前开发者关系负责人Logan Kilpatrick。他将AI Studio产品，并为Gemini API提供支持。网友纷纷看好谷歌。
【新智元导读】在英伟达统治AI时代硬件的当下，谷歌的TPU却开辟了另一条道路。今天，小编带你了解第一块TPU的前世今生，同时揭开TPU架构的神秘面纱。
谷歌就此成为了第一家因为训练数据而被罚款的人工智能公司。