当前位置: 代码迷 >> 综合 >> 2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation
  详细解决方案

2020-SIGIR- Lightgcn: Simplifying and powering graph convolution network for recommendation

热度:46   发布时间:2023-12-06 04:06:41.0

LightGCN

当前RS中的GCN工作没有进行彻底的消融实验,本文实验发现GCN的两项设计**[特征转化]和[非线性激活函数]**不适用于协调过滤。提出了LightGCN,只使用了GCN的邻居聚合,线性传播信息,然后加权每一层的嵌入得到最终的表示。

1 引言

CF的通用范式:①学习到用户和物品的隐含特征(嵌入/表示);②基于嵌入向量进行预测。

  • MF,直接将single id作为嵌入
  • SVD++,将历史交互物品id来表示user(一阶邻居)
  • 交互图,多阶邻居

NGCF中借鉴GCN的特征转化、非线性函数;但是原始GCN使用的节点是带有丰富特征的,而在user-item交互图中,只有id节点,没有丰富的特征,这些特征转化反而会有损模型。所以提出LightGCN.

2 先验

2.1 NGCF

在这里插入图片描述

2.2 NGCF 经验性探究

对NGCF采取消融实验,探究非线性激活函数和特征转化的影响。将NGCF的最后组合方式改变,由concat改为sum,因为这样嵌入都是相同维度了。

  • NGCF-f,移去W1 W2
  • NGCF-n,移去激活函数
  • NGCF-fn,都移去

在这里插入图片描述

3 模型

在这里插入图片描述

3.1 LightGCN

在这里插入图片描述

3.1.1 Light Graph Convolution

在这里插入图片描述

3.1.2 Layer Combination and Model Prediction

在这里插入图片描述

3.1.3 矩阵形式

在这里插入图片描述

3.2 模型分析

3.2.1 和SGCN关系

在这里插入图片描述

3.2.2 和APPNP关系

在这里插入图片描述

3.2.3 二阶嵌入平滑

在这里插入图片描述

3.3 模型训练

在这里插入图片描述

4 实验

4.4 消融实验

4.4.1 层组合方式

在这里插入图片描述

4.4.2 对称根号归一化

在这里插入图片描述

4.4.3 平滑嵌入的分析

在这里插入图片描述
结果表明,使用 light gcn,能让嵌入表更加平滑,更适合用于推荐。

6 结论和未来工作

LightGCN的优点:更容易训练、更好的泛化能力、更有效

近期趋势是利用辅助信息,而GCN在这些side info中建立了新的SOTA。

未来方向,个性化图层组合权重,对于不同用户,不同层结合权重不同,比如稀疏的用户可能需要来自高阶邻居的更多信号,而主动的用户需要的信号更少。

  相关解决方案