[论文解读] Adversarial Learning for Debiasing Knowledge Graph Embeddings

Mario Arduini, Lorenzo Noci+4 more|arXiv (Cornell University)|Jun 29, 2020

Advanced Graph Neural Networks参考文献 26被引用 4

一句话总结

本文提出FAN（过滤对抗网络），一种新颖的对抗性框架，通过移除敏感属性信息（尤其是性别偏见）来实现知识图谱嵌入的去偏，同时保持下游任务的性能。FAN利用与判别器对抗训练的过滤网络，从嵌入中提取并抑制与性别相关的信息，实现接近随机的性别预测准确率，且未降低其他任务（如职业预测）的性能。

ABSTRACT

Knowledge Graphs (KG) are gaining increasing attention in both academia and industry. Despite their diverse benefits, recent research have identified social and cultural biases embedded in the representations learned from KGs. Such biases can have detrimental consequences on different population and minority groups as applications of KG begin to intersect and interact with social spheres. This paper aims at identifying and mitigating such biases in Knowledge Graph (KG) embeddings. As a first step, we explore popularity bias -- the relationship between node popularity and link prediction accuracy. In case of node2vec graph embeddings, we find that prediction accuracy of the embedding is negatively correlated with the degree of the node. However, in case of knowledge-graph embeddings (KGE), we observe an opposite trend. As a second step, we explore gender bias in KGE, and a careful examination of popular KGE algorithms suggest that sensitive attribute like the gender of a person can be predicted from the embedding. This implies that such biases in popular KGs is captured by the structural properties of the embedding. As a preliminary solution to debiasing KGs, we introduce a novel framework to filter out the sensitive attribute information from the KG embeddings, which we call FAN (Filtering Adversarial Network). We also suggest the applicability of FAN for debiasing other network embeddings which could be explored in future work.

研究动机与目标

• 研究并缓解知识图谱嵌入（KGEs）中嵌入的社会与文化偏见，特别是性别偏见。
• 考察网络嵌入中的流行度偏见及其与KGEs的对比，其中高阶数节点表现出更高的链接预测准确率。
• 开发一种可泛化的去偏框架，适用于性别偏见以外的其他偏见类型及其它嵌入类型。
• 证明即使在移除显式性别关系后，仍可从KGEs中推断出性别等敏感属性。
• 验证FAN在知识图谱中高阶数与低阶数实体上均能有效去除性别偏见。

提出的方法

• 提出FAN，一种由过滤网络和判别器网络组成的对抗性框架，在极小化极大设置下联合训练。
• 训练过滤网络在KGEs上学习恒等映射，同时判别器尝试从嵌入中预测性别。
• 为过滤器和判别器组件均使用带有Leaky ReLU和Dropout（0.5）的多层感知机（MLP）。
• 通过每五步更新一次过滤器来启动对抗训练，以稳定学习过程。
• 应用预训练的过滤器生成去偏嵌入，随后在过滤后的嵌入上评估性别和职业预测性能。
• 使用交叉验证评估来衡量性能下降程度与去偏效果。

实验结果

研究问题

• RQ1 在从知识图谱中移除显式性别关系后，KGEs中仍在多大程度上编码了性别信息？
• RQ2 KGEs的链接预测准确率与节点度数之间有何相关性？与node2vec等网络嵌入相比有何差异？
• RQ3 对抗性过滤框架能否在不降低非敏感下游任务性能的前提下，有效去除KGEs中的性别偏见？
• RQ4 去偏框架FAN是否能在不同KGE算法和节点度分布下实现泛化？
• RQ5 KGEs中的性别偏见是否源于嵌入空间的结构特性，而非显式关系？

主要发现

• 即使在移除显式性别关系后，TransE、TransD和TransH的KGEs中仍高度可预测性别信息，表明偏见以结构方式编码。
• KGEs的链接预测准确率与节点度数正相关，与node2vec等网络嵌入相反，高阶数节点准确率更高——表明KGEs中存在独特的流行度偏见。
• FAN成功将高阶数与低阶数节点的性别预测准确率降低至接近随机水平（约50%），证明了其有效的去偏能力。
• 过滤后职业预测性能保持稳定，证实FAN在非敏感任务中保留了实用性。
• 对抗训练方案有效抑制了与性别相关的信息信号，同时未损害嵌入的表征质量。
• FAN不仅适用于性别偏见，还可扩展至KGEs中其他敏感属性的去偏，甚至可能适用于其他网络嵌入框架。