自我注意力机制的下一项推荐系统

需积分: 11 1 下载量 15 浏览量 更新于2024-09-06 收藏 2.16MB PDF 举报
"Next Item Recommendation with Self-Attention是悉尼新南威尔士大学和CSIRO Data61的研究者提出的一种新颖的序列感知推荐模型。该模型利用自我注意力机制从用户的历叐交互中推断物品之间的关系,以更好地学习用户瞬时兴趣的表示。通过在度量学习框架中训练,该模型考虑了短期和长期意图,实现在不同领域的一系列数据集上超越当前最先进的推荐方法。关键词包括推荐系统、序列推荐和自我注意力机制。" 本文介绍了一种基于自我注意力的下一个项目推荐方法,旨在解决推荐系统中的序列依赖问题。传统的推荐系统通常忽略用户行为的时间顺序,而该模型则强调了用户历史交互中的时间序列信息。自我注意力机制是深度学习中的一种重要技术,最初在自然语言处理领域被广泛采用,能捕捉到输入序列中的长距离依赖关系。在推荐系统中,这种机制允许模型分析用户过去交互的各个项目,赋予它们相对权重,从而理解用户的动态兴趣模式。 作者提出的方法首先将用户的历叐交互序列作为输入,通过自我注意力层来分析每个项目的相对重要性。每个项目都与序列中的其他项目相互作用,生成表示用户兴趣的加权向量。这种表示不仅反映了用户对单个项目的偏好,还捕获了项目间的关联,使得模型能够区分短期趋势和长期偏好。 为了综合考虑用户的短期和长期兴趣,模型采用了度量学习框架进行训练。度量学习的目标是学习一个距离函数,使相似的样本之间的距离较小,不相似的样本之间距离较大。在这种情况下,模型会尝试调整物品的表示,以便最近的交互项目更接近用户的当前兴趣,而较远的项目则反映其长期兴趣。 实验部分,研究人员在多个领域的广泛数据集上对比了该模型与其他最先进的推荐算法,结果表明,自我注意力机制显著提高了推荐的准确性。这些数据集包括但不限于电商购买记录、社交媒体活动和音乐流媒体服务,证明了模型在各种场景下的泛化能力和有效性。 "Next Item Recommendation with Self-Attention"模型通过引入自我注意力机制,增强了推荐系统对用户行为序列的理解,有效捕捉了用户兴趣的变化,并在实践中展示了出色的性能。这为推荐系统领域提供了一个新的研究方向,尤其是在如何利用用户行为序列信息方面。