H100利用率飙升至75%！英伟达亲自下场FlashAttention三代升级，比标准注意力快16倍
H100利用率飙升至75%！英伟达亲自下场FlashAttention三代升级，比标准注意力快16倍大模型训练推理神作，又更新了！
来自主题: AI资讯
10617 点击 2024-07-12 15:39
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
大模型训练推理神作，又更新了！
最近，一位AI炒菜机器人不仅向人类大厨发起了PK，而且还通过了「图灵测试」：根本吃不出来是AI机器人炒的！而在这背后，竟然是1.5个亿的投入和近7吨菜的训练。
近年来，人物动作生成的研究取得了显著的进展，在众多领域，如计算机视觉、计算机图形学、机器人技术以及人机交互等方面获得广泛的关注。然而，现有工作大多只关注动作本身，以场景和动作类别同时作为约束条件的研究依然处于起步阶段。
大幅节省算力资源，又又又有新解了！！
这几年，人们都在谈论大模型。特别是在 Scaling Law 的指导下，人们寄希望于将更大规模的数据用于训练，以无限提升模型的智能水平。在中国，「数据」作为一种与土地、劳动力、资本、技术并列的生产要素，价值越来越被重视。
近期，商汤科技 - 南洋理工大学联合 AI 研究中心 S-Lab ，上海人工智能实验室，北京大学与密歇根大学联合提出 DreamGaussian4D（DG4D），通过结合空间变换的显式建模与静态 3D Gaussian Splatting（GS）技术实现高效四维内容生成。
科学家们一直致力于让机器人更敏捷，此次哈佛大学与谷歌DeepMind人工智能实验室的合作有了新突破。他们创造出了一只搭载了AI大脑的「虚拟大鼠」，能够模仿真实啮齿动物的所有动作，甚至做出了一些没有被明确训练过的「新奇行为」。此项研究有望开辟「虚拟神经科学」新领域，对于脑科学和机器人学意义重大。
SelfGNN框架结合了图神经网络和个性化自增强学习，能够捕捉用户行为的多时间尺度模式，降低噪声影响，提升推荐系统鲁棒性。
亚历山大·王从麻省理工学院辍学后开始创业，25岁被《福布斯》评为“世界上最年轻的白手起家的亿万美元富翁”。
Anthropic首席执行官表示，当前AI模型训练成本是10亿美元，未来三年，这个数字可能会上升到100亿美元甚至1000亿美元。要知道，GPT-4o这个曾经最大的模型也只用了1亿美元。千亿美刀，究竟花在了哪里？