[논문 리뷰] All of the Fairness for Edge Prediction with Optimal Transport

Charlotte Laclau, Ievgen Redko외 2명|arXiv (Cornell University)|2020. 10. 30.

Ethics and Social Impacts of AI참고 문헌 31인용 수 13

한 줄 요약

이 논문은 최적 운반 기반의 임bedding에 종속되지 않는 방법을 제안하여, 민감한 그룹 간의 노드 분포를 정렬함으로써 그룹 및 개인의 공정성을 균형 잡는 그래프 인접행렬 복구를 위한 공정한 간선 예측을 수행한다. 이는 정확도-공정성 트레이드오프를 명시적으로 제어하고, 표현 편향과 할러스티시티를 감소시켜 노드 임베딩 모델을 수정하지 않고도 공정한 후속 링크 예측을 가능하게 한다.

ABSTRACT

Machine learning and data mining algorithms have been increasingly used recently to support decision-making systems in many areas of high societal importance such as healthcare, education, or security. While being very efficient in their predictive abilities, the deployed algorithms sometimes tend to learn an inductive model with a discriminative bias due to the presence of this latter in the learning sample. This problem gave rise to a new field of algorithmic fairness where the goal is to correct the discriminative bias introduced by a certain attribute in order to decorrelate it from the model's output. In this paper, we study the problem of fairness for the task of edge prediction in graphs, a largely underinvestigated scenario compared to a more popular setting of fair classification. To this end, we formulate the problem of fair edge prediction, analyze it theoretically, and propose an embedding-agnostic repairing procedure for the adjacency matrix of an arbitrary graph with a trade-off between the group and individual fairness. We experimentally show the versatility of our approach and its capacity to provide explicit control over different notions of fairness and prediction accuracy.

연구 동기 및 목표

• 관계적 데이터 마이닝에서 공정성 인식 기반 방법의 부족을 해결하기 위해, 특히 그래프에서의 간선 예측을 위한 것이다.
• 민감한 특성과 그래프 구조 간의 분포적 의존성 분석을 통해 간선 예측에서 그룹 및 개인의 공정성을 체계화하기 위해이다.
• 후속 노드 임베딩 기법에 종속되지 않는 인접행렬 복구 기법을 개발하기 위해이다.
• 이진 및 다중 클래스 설정 모두에서 공정성과 정확도 간의 트레이드오프를 명시적으로 제어하기 위해이다.

제안 방법

• 이 방법은 최적 운반(OT)을 사용하여 민감 그룹 간의 분포 불일치를 최소화함으로써 공정한 간선 예측을 공동 분포 정렬 문제로 공식화한다.
• 이웃 노드 간의 간선 가중치 전이를 부드럽게 함으로써 개인의 공정성을 강화하기 위해 그래프 라플라시안 기반 정규화 항을 도입한다.
• 민감한 특성과 구조적 패턴 간의 상관관계를 제거하기 위해 인접행렬을 수정하거나 간선을 추가/조정함으로써 복구 과정을 수행한다.
• 이 방법은 임베딩에 종속되지 않아, 어떤 노드 임베딩 모델(예: Node2Vec, CNE)과도 함께 사용할 수 있다.
• 최적 운반 계획을 계산하기 위해 변분 OT 프레임워크를 활용하여 그룹 조건부 분포 간의 워셔슈타인 거리를 최소화한다.
• 이중 및 다중 클래스 민감한 특성에 대해 OT 기반 복구 공식의 다중 클래스 확장을 통해 지원한다.

실험 결과

연구 질문

• RQ1 최적 운반 기법이 간선 예측 작업에서 그룹 공정성을 달성하기 위해 인접행렬을 효과적으로 복구하는 데 사용될 수 있는가?
• RQ2 구조적 정규화를 통해 그래프 기반 간선 예측에서 개인의 공정성을 어떻게 강화할 수 있는가?
• RQ3 수리된 인접행렬이 학습된 노드 임베딩에서 민감한 특성을 추론할 수 있는 능력을 얼마나 감소시킬 수 있는가?
• RQ4 라플라시안 정규화 파라미터가 공정성 및 예측 성능에 미치는 영향은 어떠한가?
• RQ5 다양한 그래프 유형과 민감한 특성 분포에서 공정성을 달성하면서도 예측 정확도를 어떻게 유지할 수 있는가?

주요 결과

• 제안된 방법은 표현 편향(RB)을 크게 감소시켰으며, G1에서 AUC가 0.92에서 0.48로 감소하고 G5에서 0.95에서 0.91로 감소하여 민감한 특성의 근사 무작위 추론을 나타낸다.
• G1에서 할러스티시티 계수는 0.74에서 0.01로, G3에서 0.71에서 -0.03로 감소하여 복구 후 민감한 특성이 커뮤니티 구조와 더 이상 상관관계를 가지지 않음을 보여준다.
• 편향이 없는 G2 그래프의 경우 RB와 할러스티시티가 모두 안정을 유지하여, 이 방법이 공정한 그래프를 수정하지 않음을 확인한다.
• 라플라시안 정규화 파라미터는 편향이 있는 그래프(G1, G3)에 강한 영향을 미치지만, 불균형 또는 다중 클래스 설정에서는 덜 영향을 미쳐 이러한 경우의 한계를 시사한다.
• t-SNE를 활용한 시각화 결과, 복구된 임베딩은 원래 그래프와 달리 민감한 특성에 따라 군집화되지 않았음을 확인한다.
• 이 방법은 높은 간선 예측 성능을 유지하며, 모든 테스트 데이터셋에서 AUC 점수가 경쟁 가능하게 유지되어 공정성-정확도 트레이드오프를 효과적으로 달성함을 보여준다.