AI资讯新闻榜单内容搜索-联合嵌入预测架构

关键词: AI新闻,杨立昆,JEPA,联合嵌入预测架构

“LLM 就是一条死路。”

关键词: 模型训练,JEPA-WM,联合嵌入预测世界模型,模型训练,JEPA

真正的挑战在于，如何在错综复杂的原始视觉输入中提取抽象精髓。这便引出了本研究的主角：JEPA-WM（联合嵌入预测世界模型）。从名字也能看出来，这个模型与 Yann LeCun 的 JEPA（联合嵌入预测架构）紧密相关。事实上也确实如此，并且 Yann LeCun 本人也是该论文的作者之一。

关键词: AI新闻,VL-JEPA,视觉-语言模型,模型训练,视觉语言模型

近日，来自 Meta、香港科技大学、索邦大学、纽约大学的一个联合团队基于 JEPA 打造了一个视觉-语言模型：VL-JEPA。据作者 Pascale Fung 介绍，VL-JEPA 是第一个基于联合嵌入预测架构，能够实时执行通用领域视觉-语言任务的非生成模型。

关键词: 模型训练,LeCun,JEPA,人工智能

LeCun 这次不是批评 LLM，而是亲自改造。当前 LLM 的训练（包括预训练、微调和评估）主要依赖于在「输入空间」进行重构与生成，例如预测下一个词。 而在 CV 领域，基于「嵌入空间」的训练目标，如联合嵌入预测架构（JEPA），已被证明远优于在输入空间操作的同类方法。

关键词: AI,LeCun,世界模型,模型训练

AI如何理解物理世界？视频联合嵌入预测架构V-JEPA带来新突破，无需硬编码核心知识，在自监督预训练中展现出对直观物理的理解，超越了基于像素的预测模型和多模态LLM。