前段时间SD 3翻车,同样对人体生成效果不好,网友也讨论过这一问题,过于严格的数据审核,可能误删了一些无害的成人图像,影响了模型对人体结构的理解。

一段AI生成的体操视频,引发近百万网友围观,LeCun等一众大佬还因为它吵起来了。

体操表演,emmmm怎么不算呢?

通过视频右上角的水印,此段视频正是由那个一度被认为是“下一代”文生视频的Dream Machine(来自Luma AI)生成的。

大伙儿看后纷纷坐不住,围绕此讨论的,是AI视频领域的一个熟悉的话题:AI是否理解物理规律

LeCun直接开麦:

视频生成模型不理解基本物理知识。更不用说人体了。

图片图片

华盛顿大学计算机科学教授Pedro Domingos看后也“摇了摇头”:

AGI可能并不会像一些人预期的那样即将到来。

图片图片

畸变雀食离谱

自Sora问世以来,“AI是否理解物理规律”这个话题就被越来越多人关注。

下面这段Sora生成的“寄居蟹用灯泡当外壳的夜间场面”是个经典的例子,海浪与沙滩的互动非常细腻,寄居蟹腿上的纤毛也活灵活现。

图片图片

对比真实拍摄的类似场景照片,也就灯泡没有电源不应该亮这一个明显破绽了。

图片图片

最近Luma AI的Dream Machine也一样,生成的第一视角探废弃房子真实感拉满:

图片图片

由此,不少人认为Sora、LUMA等的视频生成模型已经理解了简单的物理规律。

然鹅,这次被放出的视频着实有点太离谱。

不仅腿脚乱飞,频频上演大变活人:

图片图片

就这高难度的空中悬浮翻跟头,也是牛顿都要被气活了的节奏:

图片图片

以至于网友看后还表示,说恐怖大可不必,说搞笑还差不多。

图片图片

如此抽象,LeCun直接评论视频生成模型不会懂物理。

他还进一步解释,Sora或者其它视频生成模型都有类似的问题,视频生成技术无疑也肯定会随时间推移而进步。

但:

真正理解物理的学习系统并不会具有生成性。就像鸟类、哺乳动物等比任何视频生成系统更了解物理。然而,它们都不能生成详细的视频。

图片图片

类似还有另一种思考:

即使AI视频生成模型之后会进化的很好,生成的视频质量“完美”,那么就意味着它理解物理了?

图片图片

LeCun等的观点,立马引起网友的质疑:

鸟和哺乳动物也会生成详细的视频,只不过是在大脑中生成无法将其具像化。

图片图片

然鹅,这种反驳并未说服LeCun。

图片图片

此外,还有不少人持反对意见。

例如,谷歌DeepMind/Brain团队研究员Lucas Beyer就指出:

这就像是展示一个由几年前的Dall·E mini生成的图像,然后称当前的图像生成方式注定失败一样。

毕竟,之前生图模型生成的图像be like:

图片图片

至于模型会生成如此离谱的视频?

有网友认为是缺乏体操表演数据,还有网友认为是身体部位的模糊处理,使得模型无法理解人体结构,继而不能保证肢体动作的连贯性。

图片图片

视频生成在计算上更为复杂,并且具有高度的上下文相关性,对详细标注的训练数据有更大的需求,这些需求现在还未得到充分满足。

图片图片

前段时间SD 3翻车,同样对人体生成效果不好,网友也讨论过这一问题,过于严格的数据审核,可能误删了一些无害的成人图像,影响了模型对人体结构的理解。

图片图片

One More Thing

除了Luma AI的Dream Machine生成体操视频大翻车,Runway的Gen-3也……

图片图片

同款三头六臂:

图片图片

同款空中悬浮绝活:

图片图片

参考链接:
[1]https://x.com/ylecun/status/1807497091964449266
[2]https://x.com/giffmana/status/1807511985807908926
[3]https://x.com/EricDai_BioE/status/1807540558216454281
[4]https://x.com/Grady_Booch/status/1807556807982010451

Loading

作者 yinhua

发表回复