![](https://csdnimg.cn/release/download_crawler_static/88557956/bg1.jpg)
WSDM 2024: 大语言模型助力推荐系统---基于 LLMs 的数据增强
LLMRec: Large Language Models with Graph Augmentation for Recommendation
Code: github LLMRec
一. 背景问题和解决思路
将大语言模型用于推荐系统已经成为近期的研究热点,但是如何让 LLMs 有效地助力于推
荐系统一直是一个悬而未决的问题。一方面,经典 CF 范式已经发展了许多年,这是很多学
界和业界的工作者共同努力得到的最有效的范式;另一方面,LLMs 存在着幻觉问题
(Hallucination), 因此很难适配需要准确预测用户偏好的推荐系统。本篇工作提出用 LLMs
为推荐系统做数据增强,即,利用 LLMs 丰富的知识和卓越的自然语言理解能力进行 i)
user-item 隐式反馈的增强 ii) user profile 的生成 iii) 和 item attribute 的增强。这种方式既能
保证基础的推荐系统的准确性,又充份利用了数据集中的文本信息和大语言模型的能力。
普通的有基础 side information 的推荐系统的输入: 由 side information 编码的 feature F + 历
史交互的隐式反馈。
有数据增强的推荐系统输入: 增强的 feature + 增强的隐式反馈。
二. 存在的挑战和应对方案
1.如何让 LLMs 进行推荐?
大语言模型能够自然地进行 NLP 的任务,但是从未针对推荐进行设计和训练。此外,目前
主流公平的推荐测试大都使用 all-item rank, 并且业界 online 的召回、粗排和精排任务的 item
数据量也很大。因此,让输入受'max token length'限制的 LLM 进行推荐和测试看起来不太可
能实现。
对此,我们提出用基础的推荐模型(e.g.,LightGCN)得到数量有限的 item candidates 集供 LLMs
选择,以解决语言模型输入长度受限的问题。
2.如何让增强的数据更可靠,避免噪声的影响?
基于 LLM 的数据增强本质来说是给推荐系统引入外部知识。尽管这些知识来自于真实世界
(新闻、论坛、维基百科等互联网上的大量文本),但对于特定任务和数据集,噪音是不可避
免的。如何最大程度地确保数据增强的可用性和可靠性是一个关键问题。