威尔·史密斯的这段视频，把全网都骗了！其实Sora的技术路线，早已被人预言了。李飞飞去年就用Transformer做出了逼真的视频。但只有OpenAI大力出奇迹，跑在了所有人前面。

今天，全体AI社区都被威尔·史密斯发出的这段视频震惊了！

你以为，上面是一年前的AI视频，下面是如今的AI视频？

错！这个所谓AI生成的视频，其实正是威尔史密斯本人！

威尔·史密斯吃意面这个「图灵测试」，曾让Runway、Pika等屡屡翻车。

Runway生成的，是这样的——

但如今，Sora已经做到了逼真似真人、毫无破绽，所以才让威尔史密斯成功骗过了大众，这太可怕了！

Sora的出现，其实在今年1月就已被人预言

1月5日，一位前阿里的AI专家表示——

我认为，Transformer框架和LLM路线，将是AI视频的一个突破口和新范式，它将使AI视频更加连贯、一致，并且时长更长。目前的Diffusion+Unet路线（如Runway、Pika等），只是暂时的解决方案。

无独有偶，斯坦福学者李飞飞在去年年底，就用Transformer就做出了逼真的视频。

而马毅教授也表示，自己团队去年在NeurIPS一篇论文中也已经证实，用Transformer可以实现diffusion和denosing。

马毅团队提出：假设数据分布是mixed Gaussians，那Transformer blocks就是在实现diffusion/扩散和denoising/压缩

能想到Sora技术路线的，肯定不止一个人。可是全世界第一个把Sora做出来的，就是OpenAI。

OpenAI为何总能成功？无他，唯手快尔。

Runway和Pika「点歪」的科技树，被OpenAI掰正了

在此之前，Runway、Pika等AI视频工具吸引了不少聚光灯。

而OpenAI的Sora，不仅效果更加真实，就是把Transformer对前后文的理解和强大的一致性，发挥得淋漓尽致。

这个全新的科技树，可真是够震撼的。

不过我们在开头也可以看到，OpenAI并不是第一个想到这个的人。Transformer框架+LLM路线这种新范式，其实早已有人想到了。

就如同AI大V「阑夕」所言，OpenAI用最简单的话，把最复杂的技术讲清楚了——

「图片只是单帧的视频。」

科技行业这种从容的公共表达，真是前所未见，令人醍醐灌顶。

「阑夕」指出，「图片只是单帧的视频」的妙处就在于，图片的创建不会脱离时间轴而存在，Sora实际上是提前给视频写了脚本的。

甚至无论用户怎样Prompt，Sora AI都有自己的构图思维。

而这，就是困住Runway、Pika等公司最大的问题。

它们的思路，基本都是基于一张图片来让AI去想象，完成延伸和填补，从而叠加成视频。比拼的是谁家的AI更能理解用户想要的内容。

因此，这些AI视频极易发生变形，如何保持一致性成了登天般的难题。

Diffusion Model这一局，是彻底输给Transformer了。

ChatGPT故事再次重演，Sora其实站在谷歌的肩膀上

让我们深入扒一扒，Sora是站在哪些前人的肩膀上。

简而言之，最大创新Patch的论文，是谷歌发表的。

Diffusion Transformer的论文，来自William Peebles和谢赛宁。

此外，Meta等机构、UC伯克利等名校皆有贡献。

William Peebles和谢赛宁提出的框架

纽约大学计算机系助理教授谢赛宁在分析了Sora的技术报告后表示，Sora应该是基于自己和William Peebles提出的框架设计而成。

这篇提出了Sora基础架构的论文，去年被ICCV收录。

论文地址：https://arxiv.org/abs/2212.09748

随后，William Peebles加入了OpenAI，领导了开发Sora的技术团队。

图灵三巨头之一、Meta AI主管LeCun，也转发了谢赛宁的帖子表示认可。

巧合的是，谢赛宁是LeCun的前FAIR同事、现纽约大学同事，William Peebles是LeCun的前伯克利学生、现任OpenAI工程师。AI果然是个圈。

最近，谢赛宁对说自己是Sora作者的说法进行了辟谣

CVPR「有眼不识泰山」，拒掉Sora基础论文

有趣的是，Diffusion Transformer这篇论文曾因「缺乏创新性」被CVPR 2023拒收，后来才被ICCV2003接收。

谢赛宁表示，他们在DIT项目没有创造太多的新东西，但是两个方面的问题：简单性和可扩展性。这可能就是Sora为什么要基于DIT构建的主要原因。

此前，生成模型的方法包括GAN、自回归、扩散模型。它们都有各自的优势和局限性。

而Sora引入的，是一种全新的范式转变——新的建模技术和灵活性，可以处理各种时间、纵横比和分辨率。

Sora所做的，是把Diffusion和Transformer架构结合在一起，创建了diffusion transformer模型。

这也即是OpenAI的创新之处。

时空Patch是谷歌的创新

时空Patch，是Sora创新的核心。

它建立在Google DeepMind早期对NaViT和ViT（视觉Transformer）的研究之上。

论文地址：https://arxiv.org/abs/2307.06304

而这项研究，又是基于一篇2021年的论文「An Image is Worth 16x16 Words」。

论文地址：https://arxiv.org/abs/2010.11929

传统上，对于视觉Transformer，研究者都是使用一系列图像Patch来训练用于图像识别的Transformer模型，而不是用于语言Transformer的单词。

这些Patch，能使我们能够摆脱卷积神经网络进行图像处理。

然而，视觉Transforemr对图像训练数据的限制是固定的，这些数据的大小和纵横比是固定的，这就限制了质量，并且需要大量的图像预处理。

而通过将视频视为Patch序列，Sora保持了原始的纵横比和分辨率，类似于NaViT对图像的处理。

这种保存，对于捕捉视觉数据的真正本质至关重要！

通过这种方法，模型能够从更准确的世界表示中学习，从而赋予Sora近乎神奇的准确性。

时空Patch的可视化

谷歌Patch的论文，发表于2021年。3年后，OpenAI基于这项技术，做出了Sora。

这段历史看起来是不是有点眼熟？简直就像「Attention Is All You Need」的历史重演。

2017年6月12日，8位谷歌研究人员发表了Attention is All You Need，大名鼎鼎的Transformer横空出世。

它的出现，让NLP变了天，成为自然语言领域的主流模型。

论文地址：https://arxiv.org/pdf/1706.03762.pdf

它完全摒弃了递归结构，依赖注意力机制，挖掘输入和输出之间的关系，进而实现了并行计算。

在谷歌看来，Transformer是一种语言理解的新型神经网络架构。不过它当初被设计出来，是为了解决翻译问题。

而后来，Transformer架构被OpenAI拿来发扬光大，成为ChatGPT这类LLM的核心。

2022年，OpenAI用谷歌17年发表的Transformer做出ChatGPT。

2024年，OpenAI用谷歌21年发表的Patch做出Sora。

这也让人不由感慨：诚如《为什么伟大不能被计划》一书中所言，伟大的成就与发明，往往是偏离最初计划的结果。

前人的无心插柳，给后人的成功做好了奠基石，而一条成功的道路是如何踏出的，完全是出于偶然。

Meta微软UC伯克利斯坦福MIT亦有贡献

此外，从Sora参考文献中可以看出，多个机构和名校都对Sora做出了贡献。

比如，用Transformer做扩散模型的去噪骨干这个方法，早已被斯坦福学者李飞飞证明。

在去年12月，李飞飞携斯坦福联袂谷歌，用Transformer生成了逼真视频。

生成的效果可谓媲美Gen-2比肩Pika，当时许多人激动地感慨——2023年已成AI视频元年，谁成想2024一开年，OpenAI新的震撼就来了！

李飞飞团队做的，是一个在共享潜空间中训练图像和视频生成的，基于Transformer的扩散模型。

史上首次，AI学者证明了：Transformer架构可以将图像和视频编码到一个共享的潜空间中！

论文：https://walt-video-diffusion.github.io/assets/W.A.L.T.pdf

MSRA和北大联合团队提出的统一多模态预训练模型——NÜWA（女娲），也为Sora做出了贡献。

此前的多模态模型要么只能处理图像，要么只能处理视频，而NÜWA则可以为各种视觉合成任务，生成新的图像和视频数据。

项目地址：https://github.com/microsoft/NUWA

为了在不同场景下同时覆盖语言、图像和视频，团队设计了一个三维变换器编码器-解码器框架。

它不仅可以处理作为三维数据的视频，还可以适应分别作为一维和二维数据的文本和图像。

在8个下游任务中，NÜWA都取得了新的SOTA，在文本到图像生成中的表现，更是直接超越了DALL-E。

NÜWA模型支持的8种典型视觉生成任务

草蛇灰线，伏脉千里。踩在前人的肩膀上，通过敏锐的直觉和不眠不休的高强度工作，OpenAI的研究者就这样点对了科技树。

大力出奇迹的时候到了，不拿出一百亿美金的大厂就会out

当然，还有一点不得不承认的是：OpenAI能做出Sora，也是因为背后大量的资金支持。

没有资金，就没有数据和算力。即使点对了科技树也无法验证。

可以说，Sora是另一个建立在Transformer上的暴力美学。

现在，芯片+AI是人类有史以来最大的科技浪潮。

不拿出100亿美金的大厂，就要掉队了。

国内这边，格局又会怎样变换？让我们拭目以待。

参考资料：

https://weibo.com/1727858283/O1isjz6aw

https://openai.com/research/video-generation-models-as-world-simulators

https://weibo.com/3235040884/O19wnxB9Y

文章来自于微信公众号 “新智元”，作者 “新智元”