链接预测FB15K-237(Toutanova 等人,2015 年)被广泛用作评估知识图谱嵌入模型在链接预测方面性能的基准,包含 237 种关系和 14,541 个实体。ATOMIC 2020(Hwang 等人,2021a)是一个全面的常识库,包含 133 万个关于实体和事件的推理知识图谱元。 Question Answering FreebaseQA(Jiang 等人,2019 年)是在 Freebase 知识...
论文:《Complex Logical Reasoning over Knowledge Graphs using Large Language Models》 Complex Logical Reasoning over Knowledge Graphs using Large Language Models知识图谱(Konwledge Graph)将丰富且多元…
openai o1 series-Scaling LLM Test Time Compute 扩展推理计算 来自Jim Fan的看法: 终于看到了推理计算扩展的范式被推广并投入生产。正如 Sutton 在 The Bitter Lesson 中所说,只有两种技术可以随着计算量无限扩展:学习和搜索。是时候将重点转移到后者上了。 你不需要一个巨大的模型来进行推理。许多参数被用于记忆事...
如果用知识图谱增强 LLM,那么知识图谱不仅能被集成到 LLM 的预训练和推理阶段,从而用来提供外部知识,还能被用来分析 LLM 以提供可解释性。 而在用 LLM 来增强知识图谱方面,LLM 已被用于多种与知识图谱相关的应用,比如知识图谱嵌入、知识图谱补全、知识图谱构建、知识图谱到文本的生成、知识图谱问答。LLM 能够提升知识...
-研究领域:自然语言处理技术与方法,如语言理解、语言生成、语言匹配与推理以及知识图谱表征推理和多模态表示学习等。 -共发表10余篇SCI国际期刊、EI会议论文和CCF-A类会议论文, 发明专利申请和授权10余项。 -指导公司实习生10余人,善于挖掘学生兴趣,尊重学生选择,理论和实战结合。
知识图谱,Knowledge Graph,最早是 Google 引入的技术。当我们检索词条时,搜索页面右侧会有相关词条卡片信息,这些信息是一种数据间的关联关系的内容体现。基于这种数据关联关系,我们可以进行词条推理工作,像是“yaoming's wife age”,找到姚明老婆的年龄。这种推理任务,采用传统的倒排索引是无法实现的,必须得基于知识的推...
Think-on-Graph(ToG),意思是LLM沿着图"思考",也就是LLM沿着推理路径"在"知识图谱"上逐步"思考"。(step by step) ToG 通过要求LLM对知识图谱执行集束搜索来实现“LLM⊗KG”范式。具体来说,它提示LLM迭代地探索KGs上的多个可能的推理路径,直到LLM确定可以根据当前推理路径回答问题。
可以相互促进。在知识图谱增强的LLMs中，KGs 不仅可以被纳入 LLMs 的预训练和推理阶段以提供外部知识，...
知识图谱,Knowledge Graph,最早是 Google 引入的技术。当我们检索词条时,搜索页面右侧会有相关词条卡片信息,这些信息是一种数据间的关联关系的内容体现。基于这种数据关联关系,我们可以进行词条推理工作,像是“yaoming's wife age”,找到姚明老婆的年龄。这种推理任务,采用传统的倒排索引是无法实现的,必须得基于知识的推...
LLM 和知识图谱本质上是互相关联的,并且能彼此互相强化。如果用知识图谱增强 LLM,那么知识图谱不仅能被集成到 LLM 的预训练和推理阶段,从而用来提供外部知识,还能被用来分析 LLM 以提供可解释性。 而在用 LLM 来增强知识图谱方面,LLM 已被用于多种与知识图谱相关的应用,比如知识图谱嵌入、知识图谱补全、知识图谱...