[论文解读] Learnable Graph Convolutional Network and Feature Fusion for Multi-view Learning

Zhaoliang Chen, Lele Fu+4 more|arXiv (Cornell University)|Nov 16, 2022

Advanced Computing and Algorithms被引用 7

一句话总结

该论文提出LGCN-FF，一种端到端框架，通过联合优化特征融合与可学习图卷积网络，实现多视图半监督分类。通过整合稀疏自编码器、全连接融合网络以及可微分收缩激活（DSA）函数以实现自适应邻接矩阵学习，LGCN-FF在多个基准数据集上优于当前最先进方法，表现更优。

ABSTRACT

In practical applications, multi-view data depicting objectives from assorted perspectives can facilitate the accuracy increase of learning algorithms. However, given multi-view data, there is limited work for learning discriminative node relationships and graph information simultaneously via graph convolutional network that has drawn the attention from considerable researchers in recent years. Most of existing methods only consider the weighted sum of adjacency matrices, yet a joint neural network of both feature and graph fusion is still under-explored. To cope with these issues, this paper proposes a joint deep learning framework called Learnable Graph Convolutional Network and Feature Fusion (LGCN-FF), consisting of two stages: feature fusion network and learnable graph convolutional network. The former aims to learn an underlying feature representation from heterogeneous views, while the latter explores a more discriminative graph fusion via learnable weights and a parametric activation function dubbed Differentiable Shrinkage Activation (DSA) function. The proposed LGCN-FF is validated to be superior to various state-of-the-art methods in multi-view semi-supervised classification.

研究动机与目标

• 解决现有多视图学习方法将特征融合与图融合分开处理的局限性，从而导致表征学习效果不佳。
• 通过引入可学习、可微分的图融合机制，克服基于KNN的图构建中噪声或不准确的问题。
• 通过联合训练策略，同时优化特征与图表征，以提升下游分类性能。
• 提出一种新型可微分收缩激活（DSA）函数，通过在训练过程中细化邻接矩阵，提升所学节点关系的鲁棒性与判别性。

提出的方法

• 使用多个稀疏自编码器在融合前从异构视图中提取低维潜在表征。
• 利用全连接网络将所有视图的特征整合为统一的共享表征。
• 通过各视图特征的KNN相似性计算构建多个初始图。
• 应用可学习的邻接矩阵加权和来融合多个图，其中注意力机制类似的权重通过端到端方式优化。
• 引入可微分收缩激活（DSA）函数作为可学习、可微分的激活函数，通过促进稀疏性与鲁棒性，对融合后的邻接矩阵进行细化。
• 采用多阶段优化策略训练整个框架，包含三个损失组件：特征重建损失、融合一致性损失与图卷积网络分类损失。

实验结果

研究问题

• RQ1 与顺序或独立处理相比，联合优化特征融合与图融合是否能提升多视图半监督分类的性能？
• RQ2 所提出的可微分收缩激活（DSA）函数在细化邻接矩阵并增强图表征鲁棒性方面效果如何？
• RQ3 端到端训练特征与图融合组件是否能带来比现有最先进方法更好的泛化能力与更低的分类误差？
• RQ4 所提出的框架在多大程度上减轻了基于KNN的图构建中噪声或错误边的负面影响？

主要发现

• LGCN-FF框架在所有评估的多视图半监督分类基准上均取得优越性能，超越了当前最先进方法。
• 交叉熵损失（$\mathcal{L}_{lgcn}$）的收敛稳定，所有数据集均在500次迭代内达到最小值，表明训练过程有效且可靠。
• 特征融合组件的损失（$\mathcal{L}_{fc}$）在约100次迭代后显著下降，表明当自编码器嵌入稳定后，融合网络开始学习有意义的表征。
• DSA函数实现了邻接矩阵的自适应细化，在ALOI、BBCnews、BBCsports与MNIST数据集上观察到显著性能提升，损失曲线呈现同步下降趋势。
• 框架对噪声图结构表现出鲁棒性，$\mathcal{L}_{lgcn}$的收敛稳定，尽管早期训练阶段存在波动。
• 联合训练策略使特征融合网络能够基于图学习组件的反馈，迭代改进共享嵌入，从而提升下游分类准确率。