[论文解读] ActiveHNE: Active Heterogeneous Network Embedding

Xia Chen, Guoxian Yu+4 more|arXiv (Cornell University)|May 14, 2019

Advanced Graph Neural Networks参考文献 23被引用 9

一句话总结

ActiveHNE 提出了一种新颖的异质网络嵌入主动学习框架，结合了半监督图卷积网络与基于不确定性和代表性特征的主动查询策略。通过使用多臂赌博机动态选择最具信息量的节点，ActiveHNE 在真实世界异质网络上实现了最先进的性能，同时显著降低了标注成本。

ABSTRACT

Heterogeneous network embedding (HNE) is a challenging task due to the diverse node types and/or diverse relationships between nodes. Existing HNE methods are typically unsupervised. To maximize the profit of utilizing the rare and valuable supervised information in HNEs, we develop a novel Active Heterogeneous Network Embedding (ActiveHNE) framework, which includes two components: Discriminative Heterogeneous Network Embedding (DHNE) and Active Query in Heterogeneous Networks (AQHN). In DHNE, we introduce a novel semi-supervised heterogeneous network embedding method based on graph convolutional neural network. In AQHN, we first introduce three active selection strategies based on uncertainty and representativeness, and then derive a batch selection method that assembles these strategies using a multi-armed bandit mechanism. ActiveHNE aims at improving the performance of HNE by feeding the most valuable supervision obtained by AQHN into DHNE. Experiments on public datasets demonstrate the effectiveness of ActiveHNE and its advantage on reducing the query cost.

研究动机与目标

• 解决异质网络嵌入（HNE）中标签数据有限的问题，其中获取标签成本高昂且耗时。
• 通过有效整合监督信息，克服现有无监督HNE方法的局限性。
• 设计一种专为异质网络定制的主动学习策略，兼顾节点异质性与结构依赖性。
• 通过选择最具信息量的节点进行标注，最小化查询成本，同时最大化嵌入性能。

提出的方法

• 将原始异质信息网络（HIN）分解为同质子网络与二部子网络，以处理多样的节点类型与关系。
• 提出判别性异质网络嵌入（DHNE），一种基于半监督图卷积网络的模型，通过在子网络间聚合特征来学习节点表示。
• 引入三种主动选择策略：网络中心性（NC）、卷积信息熵（CIE）与卷积信息密度（CID），均利用局部图卷积评估不确定性和代表性。
• 使用多臂赌博机机制融合三种策略，实现批量主动学习，平衡探索与利用过程中的节点选择。
• 迭代查询由赌博机策略识别出的最具价值节点的标签，并使用更新后的标签重新训练DHNE。
• 在卷积滤波器中引入基于邻居类型多样性与度数的节点重要性度量，以增强对网络异质性与结构的敏感性。

实验结果

研究问题

• RQ1 如何有效将主动学习适配于具有多样化节点类型与关系的异质网络？
• RQ2 在同时考虑不确定性和代表性的情况下，哪些选择策略最能有效识别HIN中最具信息量的节点？
• RQ3 多臂赌博机框架能否通过动态平衡多种选择标准，提升主动学习在HNE中的效率与性能？
• RQ4 与基线方法相比，ActiveHNE在多大程度上降低了标注成本，同时保持或提升了嵌入准确率？
• RQ5 ActiveHNE的性能对图卷积中邻域顺序（K）的选择有多敏感？

主要发现

• 在MovieLens、Cora与DBLP数据集上，ActiveHNE在分类准确率上达到或优于最先进方法，多数比较的p值 < 3×10⁻⁶。
• 该框架显著降低了查询成本，表现为收敛速度更快且所需标注数据更少，优于基线主动学习方法。
• 基于多臂赌博机的策略融合（NC、CIE、CID）带来的累积奖励更高，性能优于单一策略，且奖励总和 ≥1，反映出节点选择存在重叠。
• 网络中心性（NC）在嵌入初始阶段贡献更大，但随着标注数据增多，CIE与CID因更可靠而逐渐占据主导地位。
• 最优邻域顺序（K）因数据集而异：在MovieLens上K=1表现最佳，而在Cora上K=2更优，表明高阶结构并非普遍有益。
• DHNE比metapath2vec与HHNE更快；尽管AQHN比AGE与ANRMAB更慢，但通过选择更有效的节点，实现了更优的嵌入性能。