[논문 리뷰] Fairness Amidst Non-IID Graph Data: A Literature Review

Wenbin Zhang, Shuigeng Zhou외 2명|arXiv (Cornell University)|2022. 02. 15.

Ethics and Social Impacts of AI인용 수 7

한 줄 요약

이 논문은 비i.i.d. 그래프 데이터에서의 공정성에 대한 최초의 종합적 서베이를 제공하며, 전통적인 i.i.i.d.-기반 공정성 연구와 그래프 구조 데이터 간의 격차를 메운다. 그래프 학습을 위한 공정성 정의, 방법, 데이터셋, 평가 지표를 검토하면서 연속적인 민감 속성, 동적 그래프, 영역별 공정성 처리의 한계를 부각하고, 인간 중심, 강건성, 해석 가능성 있는 공정한 그래프 학습 시스템을 위한 향후 연구 방향을 제안한다.

ABSTRACT

The growing importance of understanding and addressing algorithmic bias in artificial intelligence (AI) has led to a surge in research on AI fairness, which often assumes that the underlying data is independent and identically distributed (IID). However, real-world data frequently exists in non-IID graph structures that capture connections among individual units. To effectively mitigate bias in AI systems, it is essential to bridge the gap between traditional fairness literature, designed for IID data, and the prevalence of non-IID graph data. This survey reviews recent advancements in fairness amidst non-IID graph data, including the newly introduced fair graph generation and the commonly studied fair graph classification. In addition, available datasets and evaluation metrics for future research are identified, the limitations of existing work are highlighted, and promising future directions are proposed.

연구 동기 및 목표

• 기존의 i.i.i.d. 데이터를 전제로 한 공정성 연구와 실세계의 그래프 데이터 간의 핵심 격차를 해결하기 위해, 그래프 데이터는 구조적 상호연결성으로 인해 i.i.i.d. 가정을 본질적으로 위반하기 때문이다.
• 최근의 공정성 인지 그래프 학습에 대한 진전을 체계적으로 검토하고 분류하며, 특히 노드 연결성과 이웃 영향력과 같은 비i.i.i.d. 데이터 특성에 중점을 둔다.
• 공정한 그래프 학습을 위한 기존 벤치마크 데이터셋과 평가 지표를 식별하고 통합하여 재현 가능하고 표준화된 연구를 지원한다.
• 현재 접근법의 주요 한계를 부각시키며, 연속적인 민감 속성의 부적절한 처리, 동적 그래프의 진화, 영역별 공정성 도전 과제를 포함한다.
• 인간 중심의 공정성 정의, 이론적 기반, 그래프 학습에서의 프라이버시 및 해석 가능성 통합을 중심으로 향후 연구 방향을 제안한다.

제안 방법

• 그래프 학습에서의 공정성 접근법을 개인 수준과 집단 수준의 공정성으로 분류하고, 리프시츠 조건, 순위, 스펙트럴 이론, 라플라시안 정규화, 적대적 학습 기반의 하위 범주를 포함한다.
• 공정성 개념, 그래프 유형, 민감 속성 유형, 공정성 메커니즘, 평가 방법의 다섯 차원에서 공정성 방법의 분류 체계를 제안한다.
• 최근의 방법들을 검토하고 통합하며, 스펙트럴 이론 기반(예: Kleindessner et al., 2019), 적대적 학습 기반(예: Bose and Hamilton, 2019), 반사적 학습 기반(예: Agarwal et al., 2021)의 집단 공정성에 초점을 맞춘다.
• 그래프 구조가 공정성에 미치는 영향을 분석하여, GCN의 이웃 집합화 과정이 입력 데이터가 균일하게 분포되어 있더라도 편향을 증폭시킬 수 있음을 보여준다.
• 기존의 벤치마크 데이터셋(예: Cora, PubMed, COLLEGE, FEMNIST)과 평가 지표(예: AUC, 코사인 유사도, 재공 지수)를 식별하고 평가한다.
• 공정성 정의의 외부 검증 필요성과 실제 손해와의 일치를 강조하여 향후 연구를 위한 프레임워크를 제안한다.

실험 결과

연구 질문

• RQ1 그래프 데이터에서의 i.i.i.d. 가정 위반은 기존 기계학습과 비교해 공정성의 정의와 측정 방식에 근본적으로 어떤 영향을 미치는가?
• RQ2 그래프 학습에서 공정성을 확보하기 위한 주요 방법론적 접근은 무엇이며, 개인 수준과 집단 수준의 공정성 간에 어떻게 다를까?
• RQ3 기존 그래프 학습에서의 공정성 지표는 왜 종종 실제 손해를 포착하거나 정당화하지 못하는가? 더 나은 외부 검증을 위해선 무엇이 필요한가?
• RQ4 실세계 응용에서 흔한 연속적인 민감 속성으로의 공정성 효과적 확장은 어떻게 해야 하며, 현재 그래프 공정성 연구에서 다루지 않은 이유는 무엇인가?
• RQ5 시간에 따라 네트워크 구조가 변화하는 동적 그래프에서 공정성을 확보하는 데는 어떤 고유한 과제와 열린 문제들이 있는가?

주요 결과

• 그래프 데이터는 노드 간 상호연결성으로 인해 본질적으로 i.i.i.d. 가정을 위반하며, 이로 인해 구조적 편향이 발생할 수 있고, 입력 데이터가 균일하게 분포되어 있더라도 사회적 차별을 증폭하거나 이행할 수 있다.
• 현재 그래프 학습에서의 공정성 방법들은 주로 i.i.d. 공정성 개념의 변형에 불과하며, 노드 중심성, 커뮤니티 구조, 이웃 유사성과 같은 그래프 고유의 특성을 충분히 활용하지 못한다.
• 유사한 그래프 구조적 이웃은 유사한 예측을 받아야 한다는 이유에 대한 명확한 정당성이 부족하여, 그래프 환경에서의 공정성 정의의 이론적 기반을 약화시킨다.
• 대부분의 기존 연구는 이진 또는 이산화된 민감 속성에 집중되어 있으며, 실세계 응용에서 흔한 연속적인 민감 속성에 대한 관심은 미미하다.
• 동적 그래프의 공정성은 거의 탐색되지 않은 분야이며, 시간 연속적인 공정성 강제 조치가 장기적으로 차별적 결과를 초래할 수 있는지 여부는 여전히 열린 질문이다.
• 특히 개인정보가 민감한 분야인 헬스케어와 같은 분야에서의 영역별 공정성은 다루지 않은 채로 있으며, 익명화와 시공간적 상관관계가 그래프 구조 데이터의 편향 전파에 미치는 영향에 대한 고려가 부족하다.