Machine Intelligence Research

最近的研究表明,利用知识图谱辅助深度学习模型进行推荐决策可以有效提高模型的解释能力和准确性。本文介绍了一种端到端的深度学习模型,名为增强表征的知识图谱卷积网络(RKGCN),动态分析每个用户的偏好,并推荐合适的物品。该模型结合了物品端和用户端的知识图谱,丰富了两者的表征,最大限度地利用了知识图谱中的丰富信息。RKGCN 能够在三种不同的场景中提供更加个性化和更相关的推荐。实验结果表明,在包括电影、书籍和音乐在内的三个真实数据集上,本文的模型比5个基准模型更有成效。相关成果已发表于《机器智能研究(英文)》2024年第3期中。

 

图片来自Springer

 

全文下载:

Ripple Knowledge Graph Convolutional Networks for Recommendation Systems

Chen Li, Yang Cao, Ye Zhu, Debo Cheng, Chengyuan Li, Yasuhiko Morimoto

https://link.springer.com/article/10.1007/s11633-023-1440-x

https://www.mi-research.net/en/article/doi/10.1007/s11633-023-1440-x

 

全文导读

 

随着当前大数据和互联网技术的发展,大多数日常生活用品都通过社交网络和媒体相互关联,为商业和广告提供了便利。然而,海量数据增长也导致了信息过载的问题。互联网上的大量信息会让用户应接不暇,难以在众多选择中找到并挑选出符合自己兴趣和需求的商品。为了缓解信息过载问题,人们设计了推荐系统来帮助用户查找和选择感兴趣的物品。

 

协同过滤(Collaborative Filtering,CF)是一种传统的推荐系统方法,会将用户和物品表示为向量,并通过具体的操作(如内积运算或神经网络)来模拟用户与物品之间的交互。一般来说,协同过滤主要有两种方法,即基于用户的协同过滤和基于物品的协同过滤。

 

 图1 协同过滤(CF)推荐系统示例

 

图1展示了协同过滤推荐系统的一个实例。基于用户的协同过滤(图1(a))原理是分析用户或邻域的相似度。而基于物品的协同过滤(图1(b))则是分析物品之间的相似度。通常来说,协同过滤可以看作是完成稀疏的用户-物品评级矩阵的任务。换句话说,其主要任务是预测缺失的评分。图2(a)展示了基于协同过滤方法的评分矩阵。该评分矩阵是用户对其电影偏好的显示反馈。然而,在许多应用中,显示反馈并不常见,有时也难以获取。例如,在电商网站中,许多用户并不会对他们购买的商品进行打分。因此,推荐系统倾向于利用购买历史、点击流和浏览活动等隐式反馈来生成推荐。图2(b)展示了购买矩阵的一个案例,其中的勾选标记代表用户的购买或点击等行为。

 

然而,基于协同过滤方法的用户-物品交互是稀疏的,因此存在冷启动问题的局限性,即系统几乎没有新用户或新物品的任何信息。为了克服这些局限性,大多数研究人员采用了特征丰富的方案,利用用户和物品属性来应对稀疏性,并提高推荐系统性能。他们还认识到,属性不是孤立的,而是相互关联的,并形成一个知识图谱。从本质上讲,知识图谱是一个与语义相关的网络,是由节点和边构成的图结构。知识图谱中的每个节点和边分别代表现实世界中的实体和实体之间的关系。知识图谱可为推荐模型提供额外的上下文信息和结构,使其更好地理解用户和物品的特征和关系。这可以帮助模型做出更明智的推荐,提高系统的整体准确性。

 

 图2 电影推荐系统的评分和购买/点击矩阵示例

 

  图3 知识图谱电影推荐系统示例

 

深度学习可以利用大量的非结构化和结构化数据来学习不同实体及其属性之间的关系,从而用于构建和完善知识图谱。图3展示了一个基于知识图谱增强的优化电影推荐系统示例。知识图谱提供了用户、电影、演员和导演之间的大量联系。用户的偏好可能会受到相似类型的电影、同一演员出演的其他电影或同一导演执导的其他电影的影响。因此,丰富的知识图谱信息有助于提高推荐结果的准确性、多样性和可解释性。常用于知识图谱表示和推理的深度学习模型有多种类型,可分为三大类:

 

知识图谱嵌入模型:将知识图谱中的节点和关系表示为连续向量空间中的低维向量(嵌入)。嵌入模型在学习过程中会保留知识图谱的结构和属性,并可用于链接预测、三元组分类和实体解析等各种下游任务。知识图谱嵌入模型的例子包括TransR和ComplEx。

 

图神经网络(GNN)可处理图结构数据,并利用神经网络学习图中节点和边的表示。图神经网络可用于节点分类、图分类和图生成等任务。GNN有许多不同类型,包括图卷积网络(GCN)、图注意力网络(GAT)和图自编码器等。

 

基于规则的方法:使用逻辑规则对知识图谱进行推理。这些规则通常编码为Horn语句,模型使用基于规则的引擎对知识图谱进行逻辑推理。基于规则的方法包括概率软逻辑(PSL)和马尔可夫逻辑网络(MLN)等。

 

RippleNet和知识图谱卷积网络(KGCN)等现有的知识图谱推荐系统将用户的交互历史纳入知识图谱中,允许系统根据用户过去的交互模拟其偏好。然而,RippleNet没有考虑交互历史中不同物品之间的关系,因此可能无法完全捕捉用户面对不同候选物品时的动态偏好。此外,KGCN仅关注物品的表示,而忽略了知识图谱也可用于丰富用户及其偏好的表示。这可能会限制系统提供个性化和相关推荐的能力。

 

针对现有推荐模型的局限性,本文提出了一种名为“表征增强知识图谱卷积网络(Representation-Enhanced Knowledge Graph Convolutional Networks,RKGCN)”的端到端深度学习模型,来预测用户的点击率(CTR)。RKGCN的核心思想是利用知识图谱同时改进用户和物品的表征,然后利用增强的表征捕捉用户遇到不同物品时的动态兴趣,从而做出更准确的推荐。RKGCN通过利用知识图谱来丰富用户和物品的表征,能够提供更加个性化和更相关的推荐。本研究的主要贡献概述如下:

 

基于知识图谱的高效神经网络。为处理图数据的推荐系统提出一种基于知识图谱卷积网络的端到端框架。

 

完善不同物品对用户偏好的影响。结合RippleNet和KGCN两种不同的方法,提高推荐系统的性能。

 

在多个基准数据集上进行验证。在三个真实数据集上评估RKGCN的性能。实证结果表明,RKGCN的性能优于5种最先进的方法。

 

本文的其余部分安排如下:首先,在第2节介绍了基于知识图谱的神经网络的相关工作。然后,在第3节中定义了变化间隔检测问题。然后,在第4节中详细介绍了本文提出的RKGCN。第5节介绍了实验设置和结果。最后,在第6节中给出了结束语。

 

全文下载:

Ripple Knowledge Graph Convolutional Networks for Recommendation Systems

Chen Li, Yang Cao, Ye Zhu, Debo Cheng, Chengyuan Li, Yasuhiko Morimoto

https://link.springer.com/article/10.1007/s11633-023-1440-x

https://www.mi-research.net/en/article/doi/10.1007/s11633-023-1440-x

BibTex:

@Article {MIR-2023-02-012,

author={Chen Li, Yang Cao, Ye Zhu, Debo Cheng, Chengyuan Li, Yasuhiko Morimoto},

journal={Machine Intelligence Research},

title={Ripple Knowledge Graph Convolutional Networks for Recommendation Systems},

year={2024},

volume={21},

issue={3},

pages={481-494},

doi={10.1007/s11633-023-1440-x}}

 

特别感谢本文通讯作者、澳大利亚迪肯大学曹阳博士对以上内容的审阅和修改!

 

纸刊免费寄送
Machine Intelligence Research

MIR为所有读者提供免费寄送纸刊服务,如您对本篇文章感兴趣,请点击下方链接填写收件地址,编辑部将尽快为您免费寄送纸版全文!

说明:如遇特殊原因无法寄达的,将推迟邮寄时间,咨询电话010-82544737

收件信息登记:

https://www.wjx.cn‍/vm/eIyIAAI.aspx#  

 

 

 

关于Machine Intelligence Research

Machine Intelligence Research(简称MIR,原刊名International Journal of Automation and Computing)由中国科学院自动化研究所主办,于2022年正式出版。MIR立足国内、面向全球,着眼于服务国家战略需求,刊发机器智能领域最新原创研究性论文、综述、评论等,全面报道国际机器智能领域的基础理论和前沿创新研究成果,促进国际学术交流与学科发展,服务国家人工智能科技进步。期刊入选"中国科技期刊卓越行动计划",已被ESCI、EI、Scopus、中国科技核心期刊、CSCD等20余家国际数据库收录,入选图像图形领域期刊分级目录-T2级知名期刊。2022年首个CiteScore分值在计算机科学、工程、数学三大领域的八个子方向排名均跻身Q1区,最佳排名挺进Top 4%,2023年CiteScore分值继续跻身Q1区。

 

往期目录
2024年第3期 | 分布式深度强化学习,知识图谱,推荐系统,3D视觉,联邦学习...
2024年第2期 | 大语言模型、零信任架构、常识知识推理、肿瘤自动检测和定位...
2024年第1期 | 特约专题: AI for Art
2023年第6期 | 影像组学、机器学习、图像盲去噪、深度估计...
2023年第5期 | 生成式人工智能系统、智能网联汽车、毫秒级人脸检测器、个性化联邦学习框架... (机器智能研究MIR)
2023年第4期 | 大规模多模态预训练模型、机器翻译、联邦学习......
2023年第3期 | 人机对抗智能、边缘智能、掩码图像重建、强化学习... 
2023年第2期 · 特约专题 | 大规模预训练: 数据、模型和微调
2023年第1期 | 类脑智能机器人、联邦学习、视觉-语言预训练、伪装目标检测... 
2022年第6期 | 因果推理、视觉表征学习、视频息肉分割...
2022年第5期 | 重磅专题:类脑机器学习
2022年第4期 | 来自苏黎世联邦理工学院Luc Van Gool教授团队、清华大学戴琼海院士团队等
2022年第3期 | 聚焦自然语言处理、机器学习等领域;来自复旦大学、中科院自动化所等团队
2022年第2期 | 聚焦知识挖掘、5G、强化学习等领域;来自联想研究院、中科院自动化所等团队
主编谭铁牛院士寄语, MIR第一期正式出版!

 

 

好文推荐
复旦邱锡鹏团队 | MOSS: 一个开源的对话式大语言模型
自动化所黄凯奇团队 | 分布式深度强化学习:综述与多玩家多智能体学习工具箱
约翰霍普金斯大学Alan Yuille团队 | 从时序和高维数据中定位肿瘤的弱标注方法
专题综述 | 大语言模型中的知识生命周期
精选综述 | 零信任架构的自动化和编排: 潜在解决方案与挑战
欧洲科学院院士蒋田仔团队 | 脑成像数据的多模态融合: 方法与应用
金耀初团队&郑锋团队 | 综述: 深度工业图像异常检测
专题好文 | 创新视听内容的联合创作: 计算机艺术面临的新挑战
下载量TOP好文 | 人工智能领域高下载文章集锦 (2022-2023年)
引用量TOP好文 | 人工智能领域高引用文章集锦 (2022-2023年)
综述 | 清华张学工教授: 肺癌影像组学中的机器学习
哈工大江俊君团队 | DepthFormer: 利用长程关联和局部信息进行精确的单目深度估计
Luc Van Gool团队 | 通过Swin-Conv-UNet和数据合成实现实用图像盲去噪
贺威团队&王耀南院士团队 | 基于动态运动基元的机器人技能学习
乔红院士团队 | 类脑智能机器人:理论分析与系统应用 (机器智能研究MIR)
南科大于仕琪团队 | YuNet:一个速度为毫秒级的人脸检测器
上海交大严骏驰团队 | 综述: 求解布尔可满足性问题(SAT)的机器学习方法
西电公茂果团队 | 综述: 多模态数据的联邦学习
高文院士团队 | 综述: 大规模多模态预训练模型
前沿观点 | 谷歌BARD的视觉理解能力如何?对开放挑战的实证研究
港中文黄锦辉团队 | 综述: 任务型对话对话策略学习的强化学习方法
南航张道强教授团队 | 综述:用于脑影像基因组学的机器学习方法
ETHZ团队 | 一种基于深度梯度学习的高效伪装目标检测方法 (机器智能研究MIR)
Luc Van Gool团队 | 深度学习视角下的视频息肉分割
专题综述 | 高效的视觉识别: 最新进展及类脑方法综述
北大黄铁军团队 | 专题综述:视觉信息的神经解码
专题综述 | 迈向脑启发计算机视觉的新范式
专题好文 | 新型类脑去噪内源生成模型: 解决复杂噪音下的手写数字识别问题
戴琼海院士团队 | 用以图像去遮挡的基于事件增强的多模态融合混合网络
ETH Zurich重磅综述 | 人脸-素描合成:一个新的挑战
华南理工詹志辉团队 | 综述: 面向昂贵优化的进化计算
东南大学张敏灵团队 | 基于选择性特征增广的多维分类方法
联想CTO芮勇团队 | 知识挖掘:跨领域的综述
复旦邱锡鹏团队 | 综述:自然语言处理中的范式转换

 

 

MIR资讯
挺进Q1区前10名!MIR首个影响因子发布
特别提醒!请认准MIR官方渠道,谨防受骗
2024年 AI 领域国际学术会议参考列表
专题征稿 | Special Issue on Transformers for Medical Image Analysis
MIR 优秀编委 & 优秀审稿人 & 高被引论文 (2023年度)
致谢审稿人 | Machine Intelligence Research
年终喜报!MIR科技期刊世界影响力指数跻身Q1区 (含100份龙年礼包)
最新 | 2023研究前沿及热点解读 (附完整PDF)
前进20名!MIR再度跻身国际影响力TOP期刊榜单
2022影响因子发布!人工智能领域最新SCI & ESCI期刊一览
喜报 | MIR入选图像图形领域 T2级 “知名期刊”!
双喜!MIR入选”2022中国科技核心期刊”,并被DBLP收录 | 机器智能研究MIR
报喜!MIR入选2022年国际影响力TOP期刊榜单
喜报 | MIR被 ESCI 收录!
喜报 | MIR 被 EI 与 Scopus 数据库收录

 

内容中包含的图片若涉及版权问题,请及时与我们联系删除