微软清华改进Transformer:用降噪耳机原理升级注意力,一作在线答疑
微软清华改进Transformer:用降噪耳机原理升级注意力,一作在线答疑Transformer自问世后就大放异彩,但有个小毛病一直没解决: 总爱把注意力放在不相关的内容上,也就是信噪比低。 现在微软亚研院、清华团队出手,提出全新改进版Differential Transformer,专治这个老毛病,引起热议。
搜索
Transformer自问世后就大放异彩,但有个小毛病一直没解决: 总爱把注意力放在不相关的内容上,也就是信噪比低。 现在微软亚研院、清华团队出手,提出全新改进版Differential Transformer,专治这个老毛病,引起热议。
不少人怀疑,今年的诺奖“偷懒”了。 除了备受关注的诺贝尔生理学或医学奖“MicroRNA”相关研究外,今年诺贝尔化学奖、物理学奖均被AI相关研究拿下
几个月前,我不是发了篇这个么:《AI 产品沉思录:流量先行,窄业务、小产品/工具》,想着融点钱,攒个小团队,猛搞一番,结果不尽如人意,倒不是说事儿不行,主要是没得到金主相助,也没有稳定的团队快速复制,规模化并没有符合预期(预期是跑通了一个之后,直接复制N份自动跑)。
随着开源技术占据各大新兴领域的技术路线,其不断丰富人工智能领域的应用场景。 2023年,Meta 相继发布 Llama 和 Llama2,很快成为广受欢迎的开源大模型,也成为许多模型的基座模型。
只要一个3B参数的大模型,就能控制机器人,帮你搞定各种家务。 叠衣服冲咖啡都能轻松拿捏,而且全都是由模型自主控制,不需要遥控。 关键是,这还是个通用型的机器人控制模型,不同种类的机器人都能“通吃”。
随着扩散生成模型的发展,人工智能步入了属于 AIGC 的新纪元。扩散生成模型可以对初始高斯噪声进行逐步去噪而得到高质量的采样。当前,许多应用都涉及扩散模型的反演,即找到一个生成样本对应的初始噪声。当前的采样器不能兼顾反演的准确性和采样的质量。
两个月前,我们对 AI 游戏的认知刚刚被谷歌 GameNGen 颠覆。他们实现了历史性的突破,从此不再需要游戏引擎,AI 能基于扩散模型,为玩家生成实时可玩的游戏。
ChatGPT上线搜索功能,挑战传统搜索引擎。 一早打开 ChatGPT,发现其于昨日深夜上线了一项新功能——搜索,这让不少 ChatGPT 深度用户感到惊喜。
日前,继黏土小人滤镜之后,有一款AI特效已经火遍网络。有人评价它“太抽象了”,也有人表示“它是新的解压神器”,更有人称“它简直在演我的精神状态”,而这个全新的AI视频玩法则是“AI捏捏”。
眼下,对于 AI 产品的创新,以往高 DAU 经验未必适合。这一行业内逐渐形成的潜在共识,被最近一则招聘启示直接指出——「不需要高 DAU 经验,那多半是大厂福利」。