
新范式,自回归大一统!北大提出VARGPT:单一框架实现视觉「理解」与「生成」
新范式,自回归大一统!北大提出VARGPT:单一框架实现视觉「理解」与「生成」VARGPT是一种新型多模态大模型,能够在单一框架内实现视觉理解和生成任务。通过预测下一个token完成视觉理解,预测下一个scale完成视觉生成,展现出强大的混合模态输入输出能力。
VARGPT是一种新型多模态大模型,能够在单一框架内实现视觉理解和生成任务。通过预测下一个token完成视觉理解,预测下一个scale完成视觉生成,展现出强大的混合模态输入输出能力。
近期关于 scaling law 的讨论甚嚣尘上,很多观点认为 scale law is dead. 然而,我们认为,高质量的 “无监督” 数据才是 scaling law 的关键,尤其是教科书级别的高质量的知识语料。此外,尽管传统的语料快枯竭了,但是互联网上还有海量的视频并没有被利用起来,它们囊括了丰富的多种模态的知识,可以帮助 VLMs 更好好地理解世界。
蛋白质是生物体中非常重要的功能性分子,它们的形成过程经过了数十亿年的自然选择和进化。在这一过程中,蛋白质的序列和结构经过无数次随机突变,并通过生物系统的选择机制进行筛选,最终形成那些具有特定生物学功能的蛋白质。
我们将讨论的不仅仅是哪个超级大国会胜出,而是哪个国家的AI系统会成为全球基础设施的基石,能够被广泛采用和输出。
要让大模型适应各不一样的下游任务,微调必不可少。常规的中心化微调过程需要模型和数据存在于同一位置 —— 要么需要数据所有者上传数据(这会威胁到数据所有者的数据隐私),要么模型所有者需要共享模型权重(这又可能泄露自己花费大量资源训练的模型)。
智东西12月17日报道,近日,估值达140亿美元的硅谷AI数据标注独角兽Scale AI被其数据标注工人诉上法庭,其华人创始人、全球最年轻的白手起家亿万富翁之一Alexandr Wang也被列为被告。
全球最年轻的 95 后亿万富翁、MIT 辍学生以及估值超 1000 亿的 AI 独角兽 Scale AI 创始人 Alexandr Wang 近期在 SPC 对谈时回顾了自己在 YC 创业加速器的经历。
11月26日,我们在硅谷Menlo Park举办了一场主题为「AI机器人与可穿戴设备未来」的线下活动。在「The Right and Cool Way of Building Robots」环节中,我们邀请到K-Scale Labs的 CTO 兼联合创始人 Pawel Budzianowski,一起探讨如何在创业公司中正确而有趣地开发机器人,和围绕这一主题的方方面面。
彭博消息,AI Agent初创平台/dev/agents宣布获得5600万美元的种子资金。本次由Index Ventures、CapitalG,OpenAI联合创始人Andrej Karpathy,Scale AI首席执行官Alexandr Wang等联合投资。
Scale AI早早踩对了风口,如今终于一飞冲天了,公司的2024年年化收入预计达到近10亿美元。