KDD2022:通用序列表征学习在推荐系统中的新突破
需积分: 0 92 浏览量
更新于2024-08-03
收藏 528KB PDF 举报
"这篇文档是关于2022年KDD大会收录的论文,主题是通用序列表征学习在推荐系统中的应用。作者探讨了如何通过建模物品的文本描述来学习可迁移的通用表征,以解决传统方法中依赖物品ID导致的数据孤岛问题。论文提出了UniSRec模型,该模型包含参数白化和混合专家增强适配器,以及基于多域负样本的对比预训练任务,以学习通用的序列特征。"
在推荐系统中,序列表征学习是一个关键环节,尤其在行为序列分析中,它有助于理解和预测用户的兴趣。传统的序列表征学习方法通常基于物品ID,这限制了模型的泛化能力,使其难以适应新环境或平台。因此,来自人民大学和阿里巴巴的研究团队提出了一种新颖的方法,通过利用物品的文本描述来学习更通用的表征。
论文提出的 UniSRec 模型旨在解决这个问题。首先,模型利用预训练的BERT模型编码物品的文本特征,生成初步的文本表示。然而,由于BERT学到的特征可能具有领域特异性,作者引入了参数白化技术,通过对原始BERT表征进行线性转换,以减少特征的各向异性,促进跨领域的语义一致性。
此外,为了处理不同场景之间的差异并实现域融合,UniSRec采用了混合专家(MoE)架构。MoE包含多个白化转换模块,即专家,这些专家能够适应不同场景的特定需求。通过MoE增强适配器,模型可以综合不同场景下的表征,提高通用性。
论文还提出了一种基于多域负样本的对比预训练任务,这有助于学习更具通用性的序列表征。通过这种方式,模型能够在各种场景中捕获丰富的上下文信息,即使对于交互较少的冷启动物品也能有效处理。
实验结果表明,UniSRec在多个推荐系统场景下表现出色,证明了这种方法的有效性。论文源代码已经公开,可以在GitHub上找到,供研究者和实践者进一步探索和使用。
这篇论文为推荐系统的通用序列表征学习提供了新的视角和解决方案,对于打破数据孤岛、提升推荐系统的迁移性和泛化性能具有重要意义。
291 浏览量
2022-03-25 上传
1192 浏览量
3394 浏览量
992 浏览量
829 浏览量
1575 浏览量
817 浏览量
毕业小助手
- 粉丝: 2743
- 资源: 5583
最新资源
- 单片机串口通信仿真与代码实现详解
- LVGL GUI-Guider工具:设计并仿真LVGL界面
- Unity3D魔幻风格游戏UI界面与按钮图标素材详解
- MFC VC++实现串口温度数据显示源代码分析
- JEE培训项目:jee-todolist深度解析
- 74LS138译码器在单片机应用中的实现方法
- Android平台的动物象棋游戏应用开发
- C++系统测试项目:毕业设计与课程实践指南
- WZYAVPlayer:一个适用于iOS的视频播放控件
- ASP实现校园学生信息在线管理系统设计与实践
- 使用node-webkit和AngularJS打造跨平台桌面应用
- C#实现递归绘制圆形的探索
- C++语言项目开发:烟花效果动画实现
- 高效子网掩码计算器:网络工具中的必备应用
- 用Django构建个人博客网站的学习之旅
- SpringBoot微服务搭建与Spring Cloud实践