LeCun:“人类级别的人工智能”(一上来,他解释了FAIR中的“F”,不再意味着Facebook,而是代表“基础的”意思)。让我们来探讨一下人类级别的人工智能,以及我们如何实现它,或者为什么我们可能无法做到这一点。什么是人类水平的AI?首先,我们确实需要达到人类水平的人工智能。在未来,大多数人可能会戴上智能眼镜或...
长久以来,LeCun理想中的AI,一直是通往人类水平的AI,为此他提出了「世界模型」的构想。而最近,LeCun在公开演讲中,再次批评了GPT大模型:根据概率生成自回归的大模型,根本无法破除幻觉难题。甚至直接发出断言:GPT模型活不过5年。今天,LeCun终于离自己的梦想又近了一步!Meta震撼发布了一个「类人」的人工智能模...
因此,LeCun的引用有问题。除此之外,他还提到LeCun引用的2014年发表的论文Generative Adversarial Nets,也是基于他们的工作。这一点在他之前的发声中就有提及过。去年,Jürgen表示ResNet、GAN等五大网络都有他的功劳。还有LeCun在论文中提到的核心——联合嵌入预测架构 (JEPA)。Jürgen认为这是他在1997-2002年时提...
LeCun 认为,构造自主 AI 需要预测世界模型,而世界模型必须能够执行多模态预测,对应的解决方案是一种叫做分层 JEPA(联合嵌入预测架构)的架构。该架构可以通过堆叠的方式进行更抽象、更长期的预测。6 月 9 日,在 2023 北京智源大会开幕式的 keynote 演讲中,LeCun 又再次讲解了世界模型的概念,他认为基于自监...
LeCun也不示弱:“说的你好像是我老板。”LeCun还反驳了那些轻视学术论文观点,作为“卷积网络之父”,他举例说明卷积神经网络(ConvNets)这一在1989年由学术论文引入的技术,已经成为当今几乎所有驾驶辅助系统的核心组成部分。他进一步强调,技术奇迹并不是凭空出现的,而是建立在多年甚至数十年的科学研究基础之上的。
在他看来,自回归 LLM 仅仅是世界模型的一种简化的特殊情况。为了实现世界模型,LeCun 给出的解决方案是联合嵌入预测架构(JEPA)。LeCun 花了大量篇幅介绍 JEPA 相关技术,最后他给出了简单的总结:放弃生成模型,支持联合嵌入架构;放弃概率模型,支持基于能量的模型(EBM);放弃对比方法,支持正则化方法;放弃...
Yann LeCun表示,V-JEPA正是我们向着对世界有更深刻理解迈出的关键一步,目的是让机器能够更为广泛的推理和规划。2022年,他曾首次提出联合嵌入预测架构(JEPA)。我们的目标是打造出能够像人类那样学习的先进机器智能(AMI),通过构建对周遭世界的内在模型来学习、适应和高效规划,以解决复杂的任务。V-JEPA:非...
不过,考虑到若干原因,LeCun拒掉了这份offer。原因有以下几点。首先,当时的谷歌并没有收入。在2002年1月,谷歌当时有600名员工,还没有通过广告、Gmail等盈利。LeCun判断,如果自己此时过去,工作大概会涉及很多企业战略、产品技术开发、管理之类的内容,这会让他无论进行真正的研究。那时,他希望重新把精力集中在...
Sora 的发布让整个 AI 领域为之狂欢,但 LeCun 是个例外。面对 OpenAI 源源不断放出的 Sora 生成视频,LeCun 热衷于寻找其中的失误:归根结底,LeCun 针对的不是 Sora,而是 OpenAI 从 ChatGPT 到 Sora 一致采用的自回归生成式路线。LeCun 一直认为, GPT 系列 LLM 模型所依赖的自回归学习范式对世界的理解...