[논문 리뷰] FairEdit: Preserving Fairness in Graph Neural Networks through Greedy Graph Editing

Donald Loveland, Jiayi Pan외 2명|arXiv (Cornell University)|2022. 01. 10.

Ethics and Social Impacts of AI인용 수 7

한 줄 요약

FairEdit는 그래프 신경망(GNNs)의 공정성을 향상시키기 위해 기울기 기반 최적화를 사용하여 그래프 구조에서 간편하게 간선을 추가하거나 삭제하는 모델에 종속되지 않는 방법을 제안한다. 이는 이산적인 그래프 편집 공간의 연속적 근사화를 도입하여 다양한 GNN 아키텍처와 데이터셋에서 효율적이고 확장 가능한 공정성 향상을 가능하게 하며, 예측 성능을 희생시키지 않는다.

ABSTRACT

Graph Neural Networks (GNNs) have proven to excel in predictive modeling tasks where the underlying data is a graph. However, as GNNs are extensively used in human-centered applications, the issue of fairness has arisen. While edge deletion is a common method used to promote fairness in GNNs, it fails to consider when data is inherently missing fair connections. In this work we consider the unexplored method of edge addition, accompanied by deletion, to promote fairness. We propose two model-agnostic algorithms to perform edge editing: a brute force approach and a continuous approximation approach, FairEdit. FairEdit performs efficient edge editing by leveraging gradient information of a fairness loss to find edges that improve fairness. We find that FairEdit outperforms standard training for many data sets and GNN methods, while performing comparably to many state-of-the-art methods, demonstrating FairEdit's ability to improve fairness across many domains and models.

연구 동기 및 목표

• 기본적으로 누락된 교차 그룹 간 연결 등 역사를 반영한 편향을 수정하기 위해 그래프 구조를 수정함으로써 GNN에서의 공정성을 해결하기 위해.
• 편향된 그래프 데이터에서 공정성을 증진하기 위한 간선 추가 전략을 간선 삭제 전략과 보완적으로 탐색하기 위해.
• 기울기 정보를 활용하여 효율적인 그래프 편집을 가능하게 하는 확장 가능하고 모델에 종속되지 않는 방법을 개발하기 위해.
• 다양한 GNN 아키텍처가 공정성 향상 그래프 편집과 어떻게 상호작용하는지 평가하기 위해.
• 그래프 편집이 모델 성능을 떨어뜨리지 않으면서도 공정성을 향상시킬 수 있음을 입증하기 위해.

제안 방법

• FairEdit는 공정성 손실을 최소화하면서 예측 정확도를 유지하기 위해 그래프 편집을 최적화 문제로 공식화한다.
• 이 방법은 이산적인 그래프 편집 공간의 연속적 근사를 도입하여 간선 추가 및 삭제의 미분 가능 근사화를 통해 기울기 기반 최적화를 가능하게 한다.
• 공정성 손실의 간선 가중치에 대한 기울기를 계산하여 가장 영향력 있는 편집을 식별한다.
• 공정성을 가장 크게 향상시키는 상위-k 간선 편집을 선택하고 반복적으로 적용하는 게으른 이터레이티브 접근 방식을 사용한다.
• 이 방법은 모델에 종속되지 않아 아키텍처 수정 없이도 어떤 GNN 아키텍처와도 통합 가능하다.
• 두 가지 변형이 제안된다: 소규모 그래프에 적합한 브루트 포스 방법과 확장성을 위한 연속적 근사화(FairEdit)

실험 결과

연구 질문

• RQ1 편향된 그래프 데이터로 훈련된 GNN에서 간선 추가가 간선 삭제 외에도 공정성 향상에 상당한 기여를 할 수 있는가?
• RQ2 기울기 근사를 통한 그래프 편집의 연속적 근사는 공정성과 효율성에 어떤 영향을 미치는가?
• RQ3 어떤 GNN 아키텍처가 그래프 편집을 통해 공정성과 성능 측면에서 가장 큰 이점을 얻는가?
• RQ4 FairEdit는 예측 정확도를 유지하거나 향상시키면서도 최신 공정성 기준에 비해 공정성 지표에서 승리하는가?
• RQ5 동질성 및 교차 그룹 간 간선 누락과 같은 구조적 편향이 GNN에서 공정성에 어떤 영향을 미치는가?

주요 결과

• FairEdit는 다양한 데이터셋과 GNN 모델에서 표준 훈련 대비 공정성 지표에서 뛰어난 성능을 보이며, 특히 민족적 불균형을 크게 감소시켰다.
• 독일 신용 데이터셋에서 FairEdit는 공정성(ΔSP ↓ 0.448)을 향상시키면서 기준 GCN 모델(F1: 0.646)과 경쟁 가능한 F1 점수(0.692)를 유지했다.
• 재범 위험 데이터셋에서 FairEdit는 ΔSP: 0.078 및 ΔEO: 0.014를 달성했으며, 표준 GCN(ΔSP: 0.099, ΔEO: 0.046)보다 뚜렷이 뛰어난 성능을 보였다.
• 모든 훈련 방법에서 GraphSAGE가 다른 GNN들보다 공정성 측면에서 뛰어나 상대적으로 구조적 이점이 있음을 시사했다.
• 연속적 근사화(FairEdit)는 FairGNN 및 Nifty와 같은 최신 기술과 유사한 공정성 성능를 달성했으며, 브루트 포스 편집보다 더 뛰어난 확장성을 보였다.
• 이 방법은 레드라인 영향을 받은 금융 네트워크와 같이 역사적 편향 수준이 높은 다양한 데이터셋에서도 강건성을 입증했다.