[논문 리뷰] FairGNN: Eliminating the Discrimination in Graph Neural Networks with Limited Sensitive Attribute Information.

Enyan Dai, Suhang Wang|arXiv (Cornell University)|2020. 09. 03.

Ethics and Social Impacts of AI참고 문헌 74인용 수 8

한 줄 요약

FairGNN는 제한된 민감 속성 정보를 활용하여 그래프 신경망(GNN) 내 편향을 완화하는 새로운 프레임워크를 제안한다. 그래프 구조와 공정성 인지 메시지 전달 메커니즘을 활용함으로써, 정확도 저하를 최소화하면서도 최신 기술 수준의 공정성을 달성한다. 이는 민감 속성 레이블이 소수의 노드에만 존재하는 경우에도 성립한다.

ABSTRACT

Graph neural networks (GNNs) have shown great power in modeling graph structured data. However, similar to other machine learning models, GNNs may make predictions biased on protected sensitive attributes, e.g., skin color, gender, and nationality. Because machine learning algorithms including GNNs are trained to faithfully reflect the distribution of the training data which often contains historical bias towards sensitive attributes. In addition, the discrimination in GNNs can be magnified by graph structures and the message-passing mechanism. As a result, the applications of GNNs in sensitive domains such as crime rate prediction would be largely limited. Though extensive studies of fair classification have been conducted on i.i.d data, methods to address the problem of discrimination on non-i.i.d data are rather limited. Furthermore, the practical scenario of sparse annotations in sensitive attributes is rarely considered in existing works. Therefore, we study the novel and important problem of learning fair GNNs with limited sensitive attribute information. FairGNN is proposed to eliminate the bias of GNNs whilst maintaining high node classification accuracy by leveraging graph structures and limited sensitive information. Our theoretical analysis shows that FairGNN can ensure the fairness of GNNs under mild conditions given limited nodes with known sensitive attributes. Extensive experiments on real-world datasets also demonstrate the effectiveness of FairGNN in debiasing and keeping high accuracy.

연구 동기 및 목표

• i.i.d. 데이터에 적합한 기존 방법이 적용되지 않는 비i.i.i.d. 그래프 구조화된 데이터에 대한 공정한 머신러닝의 핵심적 격차를 메우기 위해.
• 그래프 메시지 전달과 구조적 편향에 의해 악화될 수 있는 GNN 내 차별 문제를 해결하기 위해.
• 희박한 민감 속성 주석이라는 현실적인 제약 조건 하에서도 효과적으로 작동하는 공정한 GNN 프레임워크를 개발하기 위해.
• 예측 성능을 희생시키지 않고도 높은 노드 분류 정확도를 유지하면서 공정성을 확보하기 위해.
• 이론적 및 실증적으로, 소수의 레이블이 있는 민감 속성 정보만으로도 공정성이 달성될 수 있음을 입증하기 위해.

제안 방법

• GNN 학습 중에 제한된 민감 속성 정보를 통합하는 공정성 인지 메시지 전달 메커니즘을 도입하기 위해.
• 민감 속성이 알려진 노드의 일부만 존재하는 상황에서도 그래프 구조를 활용해 공정성 제약 조건을 노드 간 전파하기 위해.
• 민감 속성 기반 예측 편차를 페널티 처리하는 정규화된 손실 함수를 제안하여, 모델 정확도를 유지하기 위해.
• 특히 저 supervision 환경에서 동일한 민감 속성을 가진 노드에 대해 유사한 예측을 유도하는 공정성 정규화 항을 적용하기 위해.
• 그래프의 위상 구조를 활용해 레이블이 없는 노드로도 공정성 신호를 전파함으로써, 광범위한 민감 속성 주석에 대한 의존도를 줄이기 위해.
• 이론적 분석을 통해 FairGNN가 민감 속성 정보가 소수의 노드에만 알려진 경우에도 온건한 조건 하에서 공정성을 보장함을 입증함.

실험 결과

연구 질문

• RQ1 민감 속성 레이블에 대한 접근이 제한된 상황에서도 GNN의 공정성이 효과적으로 달성될 수 있는가?
• RQ2 그래프 구조는 GNN 내 편향의 전파 및 완화에 어떤 영향을 미치는가?
• RQ3 FairGNN는 얼마나 높은 분류 정확도를 유지하면서도 예측의 부정확성을 줄일 수 있는가?
• RQ4 희박한 민감 속성 주석 감시 조건 하에서 GNN의 공정성에 대해 어떤 이론적 보장이 가능할 수 있는가?
• RQ5 비i.i.d. 그래프 환경에서 FairGNN은 기존의 공정 학습 방법과 비교해 어떻게 성능을 내는가?

주요 결과

• FairGNN는 민감 속성 레이블이 알려진 노드의 비율이 매우 낮은 경우에도 GNN 내 예측 편향을 크게 줄인다.
• 표준 GNN과 비교해 성능 저하가 최소화된 높은 노드 분류 정확도를 유지한다.
• 이론적 분석을 통해 제한된 민감 속성 정보가 존재하는 조건 하에서도 FairGNN가 온건한 가정 하에 공정성을 보장함을 확인한다.
• 실세계 데이터셋에서의 광범위한 실험을 통해 다양한 벤치마크 환경에서 공정성 지표 향상이 일관되게 관찰된다.
• 특히 저 supervision 상황에서 기존의 공정 학습 기반 모델보다 공정성과 정확도 양면에서 뛰어난 성능을 보인다.
• 그래프 구조는 공정성 신호를 효과적으로 증폭시켜, 희박한 민감 속성 주석 조건 하에서도 강력한 편향 완화를 가능하게 한다.