LeCun的核心观点:1、语言模型就是语言模型,它不理解语言背后的客观世界智能程度很有限,不能带人类走向AGI。语料中包含的客观世界知识量也有限。人类的很多智能也跟语言无关,特别是在孩提时代、甚至未开口说话之前通过感知器官预先建立起来的对客观世界的认知,在语料中缺乏对应的表示。2、大语言模型的幻觉的根本原因有...
一种典型的方法是以某种方式训练出一个视觉系统,我们有很多方法来训练这种系统——监督、半监督、自监督的学习方式,通过各种不同的方法将任何图像转换为高级表征——基本上是一个符号(tokens)列表,与典型LLM用作输入的那些符号的形式非常相似,然后你把这些符号和表征文字的符号一起喂给大语言模型,就可以训练它用这些...