LLMRec对比的baseline主要general CF和多模态推荐的方法。更细致地可以划分为general CF, 有side information的推荐系统,有数据增强的推荐系统,自监督推荐系统。我们的LLMRec通过显式增强用户-物品交互边缘和提升辅助信息的质量,优于基准模型。值得一提的是,我们的模型基于LATTICE的编码器,包括ID对应编码器和特征编码器。
为解决这一问题,LLMRec提出了两种不同的方法,分别面向增强了的隐式反馈和特征。对于隐式反馈,LLMRec采用了剪枝机制,剔除不可靠的部分,以确保增强后的数据的准确性和可信度。而对于特征,LLMRec引入了MAE(masked auto-encoder),以减轻编码器对特征的依赖,从而提高整体系统的鲁棒性。这两种方法的结合旨在应对数据增强中...
LLMRec 包括一个标准流程:(1)增强语义投影,(2)协作上下文注入,和(3)特征整合。如下: 增强语义投影 使用带有dropout的线性层减少LLM增强语义特征的维度,并将这些特征映射到它们自己的空间: \overline{F}_{\mathcal{A}} = \text{Linear}(F_{\mathcal{A}})。 协作上下文注入 使用轻量级GNNs作为编码器,将高...
具体来说,我们提出了LLM-Rec提示,它包括为个性化内容推荐量身定制的各种提示策略。这些策略包括基本提示、推荐驱动提示、参与引导提示以及推荐驱动提示和参与引导提示相结合。通过利用这些策略,我们旨在增强LLM对输入文本的生成,并提高内容推荐的准确性和相关性。 通过全面的实证实验,我们评估了LLM-Rec框架的有效性,并将...
LLM-Rec:提示策略,提荐力! 我们探索了多种提示策略,旨在通过输入增强来提升大型语言模型(LLM)在个性化内容推荐方面的性能。我们提出的方法,命名为LLM-Rec,包含四种不同的提示策略:(1)基本提示、(2)推荐驱动提示、(3)参与引导提示以及(4)推荐驱动+参与引导提示。 实证实验表明,将原始内容描述与使用这些提示策略生成...
鉴于大型语言模型(LLMs)的最新进展,它具有广泛的知识库和强大的推理能力,作者提出了一个名为LLMRec的新框架,该框架通过采用三种简单而有效的基于llm的图增强策略来增强推荐系统。(i)加强用户-项目交互边,(ii)增强对项目节点属性的理解,以及(iii)从自然语言的角度直观地进行用户节点分析。此外,为了保证增强的质量,...
LLMRec是一个开创性的工作,即使用LLM来增强推荐中的图:i)用户-项目交互边,ii)项目节点属性,iii)用户节点配置文件。 所提出的LLMRec通过使LLM能够明确地推理用户-项目交互模式,解决了隐式反馈信号的稀缺性问题。此外,它还通过用户/项目属性生成和基于噪声反馈剪枝和基于mae的特征增强的去噪增强增强机制,解决了低质量...
数据集使用 PixelRec、Amazon Book,baseline 选用 SASRec 和 HSTU; 离线实验使用生成式推荐(为了与其他方法公平对比),在线 A/B 实验使用判别式推荐(为了与线上系统兼容); 自身模型设置 HLLM-1B、HLLM-7B 两种,HLLM-1B 采用 TinyLlama-1.1B,...
代码:https://github.com/HKUDS/LLMRec 作者提出了三种基于LLMs的异质图数据增强范式,包括1)交互边的增强;2) 有基础文本信息的节点的增强;3) 无基础文本信息的节点的增强。这三种数据增强转化为推荐系统中的user-item交互图可以被看作是user-item交互的增强,item属性的增强,和user画像的增强。 它们分别通过边(...
高效:A-LLMRec 的高效之处在于对齐网络是唯一可训练的神经网络 本文的主要贡献如下: 我们提出了一种基于 LLM 的推荐系统,称为 A-LLMRec,它可以直接利用预先训练好的最先进推荐系统中包含的协作知识。 A-LLMRec 既不需要对 CF-RecSys 也不需要对 LLM 进行微调,只需要训练一个对齐网络,就能在两者之间架起...