LightGCN
当前RS中的GCN工作没有进行彻底的消融实验,本文实验发现GCN的两项设计**[特征转化]和[非线性激活函数]**不适用于协调过滤。提出了LightGCN,只使用了GCN的邻居聚合,线性传播信息,然后加权每一层的嵌入得到最终的表示。
1 引言
CF的通用范式:①学习到用户和物品的隐含特征(嵌入/表示);②基于嵌入向量进行预测。
- MF,直接将single id作为嵌入
- SVD++,将历史交互物品id来表示user(一阶邻居)
- 交互图,多阶邻居
NGCF中借鉴GCN的特征转化、非线性函数;但是原始GCN使用的节点是带有丰富特征的,而在user-item交互图中,只有id节点,没有丰富的特征,这些特征转化反而会有损模型。所以提出LightGCN.
2 先验
2.1 NGCF
2.2 NGCF 经验性探究
对NGCF采取消融实验,探究非线性激活函数和特征转化的影响。将NGCF的最后组合方式改变,由concat改为sum,因为这样嵌入都是相同维度了。
- NGCF-f,移去W1 W2
- NGCF-n,移去激活函数
- NGCF-fn,都移去
3 模型
3.1 LightGCN
3.1.1 Light Graph Convolution
3.1.2 Layer Combination and Model Prediction
3.1.3 矩阵形式
3.2 模型分析
3.2.1 和SGCN关系
3.2.2 和APPNP关系
3.2.3 二阶嵌入平滑
3.3 模型训练
4 实验
4.4 消融实验
4.4.1 层组合方式
4.4.2 对称根号归一化
4.4.3 平滑嵌入的分析
结果表明,使用 light gcn,能让嵌入表更加平滑,更适合用于推荐。
6 结论和未来工作
LightGCN的优点:更容易训练、更好的泛化能力、更有效
近期趋势是利用辅助信息,而GCN在这些side info中建立了新的SOTA。
未来方向,个性化图层组合权重,对于不同用户,不同层结合权重不同,比如稀疏的用户可能需要来自高阶邻居的更多信号,而主动的用户需要的信号更少。