[논문 리뷰] Fairness-Aware Node Representation Learning

Öykü Deniz Köse, Yanning Shen|arXiv (Cornell University)|2021. 06. 09.

Advanced Graph Neural Networks참고 문헌 51인용 수 10

한 줄 요약

이 논문은 대비성 노드 표현 학습을 위한 공정성 인지 그래프 증강 기법을 제안하며, 공정성 개념에 따라 유도되는 적응형 특성 마스킹과 간선 삭제를 사용해 편향을 감소시킨다. 실제 사회망에서 분류 정확도를 희생시키지 않은 채 통계적 평등성과 동등 기회에서 향상된 공정성을 입증함으로써, 대비 학습을 위한 첫 번째 적응형 공정성 인지 그래프 증강 프레임워크가 된다.

ABSTRACT

Node representation learning has demonstrated its effectiveness for various applications on graphs. Particularly, recent developments in contrastive learning have led to promising results in unsupervised node representation learning for a number of tasks. Despite the success of graph contrastive learning and consequent growing interest, fairness is largely under-explored in the field. To this end, this study addresses fairness issues in graph contrastive learning with fairness-aware graph augmentation designs, through adaptive feature masking and edge deletion. In the study, different fairness notions on graphs are introduced, which serve as guidelines for the proposed graph augmentations. Furthermore, theoretical analysis is provided to quantitatively prove that the proposed feature masking approach can reduce intrinsic bias. Experimental results on real social networks are presented to demonstrate that the proposed augmentations can enhance fairness in terms of statistical parity and equal opportunity, while providing comparable classification accuracy to state-of-the-art contrastive methods for node classification.

연구 동기 및 목표

• 그래프 대비 학습에서 그래프 구조와 특성의 편향을 증폭시킬 수 있는 공정성 고려 부족 문제를 해결하기 위해.
• 노드 특성과 구조에서 민감한 속성을 타깃으로 삼아 내재된 편향을 감소시키는 적응형 그래프 증강 기법을 개발하기 위해.
• 편향 감소 증강 설계를 이끄는 그래프 상의 새로운 공정성 개념을 도입하기 위해.
• 적응형 특성 마스킹이 특성과 민감한 속성 간 상관관계를 감소시키는 것을 이론적·실험적으로 검증하기 위해.
• 노드 분류에서 최신 기준 대비 학습 방법과 비교 가능한 정확도를 유지하면서 통계적 평등성, 동등 기회 등의 공정성 지표를 향상시키기 위해.

제안 방법

• 노드 중심성과 구조적 역할에 기반해 적응형으로 특성과 간선을 손상시키는 공정성 인지 그래프 증강 기법을 제안한다.
• 구조적 편향 감소를 위한 두 가지 적응형 간선 삭제 전략을 도입한다: 도수 기반 및 삼각형 기반(지역 응집도 기반).
• 민감한 속성과의 상관관계에 따라 특성을 선택적으로 마스킹하는 적응형 특성 마스킹을 적용하여 기대 상관관계를 감소시킨다.
• 이론적 분석을 통해 적응형 특성 마스킹이 비적응형 마스킹보다 특성과 민감한 속성 간 기대 총 표본 상관계수(ρ)를 감소시킴을 증명한다.
• 각 노드에 대해 두 개의 증강된 시각을 사용하는 대비 학습을 적용하며, 증강은 공정성에 기반하고 계산적으로 경량화되어 있다.
• 자기지도 학습 대비 목적 함수를 사용해 노드 표현을 학습하면서, 적응형 증강 설계를 통해 편향 전파를 최소화한다.

실험 결과

연구 질문

• RQ1 적응형 그래프 증강 기법이 노드 분류 작업의 성능을 떨어뜨리지 않으면서 노드 표현의 편향을 감소시킬 수 있는가?
• RQ2 적응형 마스킹이 비적응형 마스킹보다 노드 특성과 민감한 속성 간 상관관계 감소에 더 효과적인가?
• RQ3 공정성 인지 간선 삭제 전략이 통계적 평등성과 동등 기회와 같은 공정성 지표를 향상시킬 수 있는가?
• RQ4 공정성 인지 증강 기법이 기존의 대비 학습 및 공정성 인지 기반 베이스라인 대비 공정성은 높이고 정확도는 유사하게 유지하는가?
• RQ5 그래프 상의 다양한 공정성 개념(예: 통계적 평등성, 동등 기회)이 효과적인 증강 설계를 어떻게 이끌어내는가?

주요 결과

• 제안된 FM + p^(deg) 및 FM + p^(T) 증강 기법은 Pokec-z에서 가장 낮은 공정성 갭을 기록하며, ΔSP = 2.50% 및 ΔEO = 2.18%를 달성하여 모든 베이스라인을 압도한다.
• Pokec-n에서 FM + p^(deg)는 ΔSP = 4.39% 및 ΔEO = 6.05%를 기록하여 다양한 데이터셋에서 일관된 공정성 향상을 보였다.
• 적응형 특성 마스킹 기법은 이론적으로 노드 특성과 민감한 속성 간 기대 상관관계를 감소시킴을 입증했다.
• 공정성 향상에도 불구하고, 제안된 방법은 최신 기준 대비 학습 방법(예: GCA, GRACE)과 비교해 유사한 정확도를 유지하며, Pokec-n에서 FM + p^(deg)는 66.42%의 정확도를 기록했다.
• 대비적 공정성에 초점을 맞춘 공정성 인지 방법인 NIFTY는 통계적 평등성과 동등 기회에서 성능이 열등하여, 공정성 목표는 특정 공정성 개념과 일치시켜야 함을 시사한다.
• 모든 대비 학습 기반 베이스라인은 무작위 보행 기반 방법(예: FairWalk)을 앞서며, 그래프 구조가 편향을 전파한다는 것을 확인하고, 제안된 증강 기법이 이를 효과적으로 완화함을 보였다.