[논문 리뷰] Fair Machine Learning in Healthcare: A Review

Qizhang Feng, Mengnan Du외 2명|arXiv (Cornell University)|2022. 06. 29.

Health Systems, Economic Evaluations, Quality of Life인용 수 12

한 줄 요약

이 종합 검토는 분배 정의 원칙을 활용하여 공정성 문제를 균등 배분과 균등 성능으로 분류함으로써 헬스케어 분야에서 공정한 기계학습을 위한 통합된 프레임워크를 제안한다. 공정성 지표, 기계학습 생명주기 전반에서의 편향 원인, 완화 전략을 체계적으로 검토하며, 헬스케어 환경에서 공정성 방법을 평가하는 데서의 격차를 부각하고 융합된 윤리-AI 프레임워크의 필요성을 제기한다.

ABSTRACT

The digitization of healthcare data coupled with advances in computational capabilities has propelled the adoption of machine learning (ML) in healthcare. However, these methods can perpetuate or even exacerbate existing disparities, leading to fairness concerns such as the unequal distribution of resources and diagnostic inaccuracies among different demographic groups. Addressing these fairness problem is paramount to prevent further entrenchment of social injustices. In this survey, we analyze the intersection of fairness in machine learning and healthcare disparities. We adopt a framework based on the principles of distributive justice to categorize fairness concerns into two distinct classes: equal allocation and equal performance. We provide a critical review of the associated fairness metrics from a machine learning standpoint and examine biases and mitigation strategies across the stages of the ML lifecycle, discussing the relationship between biases and their countermeasures. The paper concludes with a discussion on the pressing challenges that remain unaddressed in ensuring fairness in healthcare ML, and proposes several new research directions that hold promise for developing ethical and equitable ML applications in healthcare.

연구 동기 및 목표

• 헬스케어 기계학습에서 윤리적 공정성 문제와 기술적 공정성 방법 사이의 핵심 격차를 해소한다.
• 분배 정의 원칙을 활용해 헬스케어 공정성 문제를 균등 배분과 균등 성능으로 분류한다.
• 데이터, 모델, 구현 단계에서의 공정성 지표 및 완화 전략에 대한 체계적인 검토를 제공한다.
• 헬스케어 특화 지표에 적용될 때 공정성 완화 방법의 비판적 평가 부족을 부각한다.
• 윤리적, 공정하고 임상적으로 실현 가능한 AI를 개발하기 위한 향후 연구 방향을 제안한다.

제안 방법

• 공정성 문제를 균등 배분(자원 배분)과 균등 성능(다양한 집단 간 예측 정확도)으로 분류하기 위해 분배 정의 프레임워크를 채택한다.
• 배분 형평성(예: 인구통계적 평등)을 측정하는 지표와 성능 형평성(예: 등가된 기회, 등가된 오dds)을 측정하는 지표로 공정성 지표를 분류한다.
• 기계학습 생명주기의 세 단계인 데이터 수집, 모델 개발, 모델 구현 단계에 편향을 매핑한다.
• 사전 처리, 내재 처리, 사후 처리 공정성 기법을 포함한 완화 기법을 검토하며, 헬스케어 분야에 특화된 적용에 중점을 둔다.
• 해석 가능성, 프라이버시, 강건성 등의 윤리적 차원을 분석하고, 이들이 공정성과 어떻게 상호작용하는지 다룬다.
• 다중모odal 헬스케어 AI에서 다양한 데이터 유형(예: 영상, 텍스트, 게놈) 간 편향이 발생함에 따라, 공정성 인식이 반영된 다중모달 모델링의 필요성을 제기한다.

실험 결과

연구 질문

• RQ1 분배 정의와 같은 윤리 원칙을 활용해 헬스케어 기계학습의 공정성을 체계적으로 분류할 수 있는가?
• RQ2 기계학습 생명주기 전반에서 헬스케어 데이터에 적용 가능한 주요 공정성 지표와 완화 전략는 무엇인가?
• RQ3 데이터 수집, 모델 훈련, 구현 단계에서의 편향이 임상 기계학습 시스템의 공정성 결과에 어떻게 영향을 미치는가?
• RQ4 헬스케어 AI에서 공정성, 해석 가능성, 프라이버시, 강건성 간의 상호의존성과 상충 관계는 무엇인가?
• RQ5 이론적 공정성 방법과 실제 헬스케어 응용 간 격차를 메우기 위해 어떤 새로운 연구 방향이 필요한가?

주요 결과

• 헬스케어 기계학습에서의 공정성은 균등한 복리 배분과 다양한 인구 집단 간 균등한 성능이라는 두 가지 시각을 통해 가장 잘 이해할 수 있다.
• 기존 기계학습 공정성 지표는 이 두 가지 범주로 매핑될 수 있으며, 특히 임상 예측에서 등가된 기회나 등가된 오dds와 같은 성능 기반 지표가 특히 관련성이 높다.
• 편향은 기계학습 생명주기의 모든 단계—데이터 수집, 모델 개발, 구현 단계에서 발생하며, 각 단계에 맞는 타겟된 완화 전략이 필요하다.
• 특히 실제 임상 환경에서 헬스케어 특화 공정성 지표에 적용될 때 공정성 완화 방법의 효과성을 평가하는 데 상당한 격차가 존재한다.
• 다중모달 헬스케어 AI 시스템은 모달리티 특화 편향으로 인해 공정성 도전 과제가 심화되지만, 현재까지는 다중모달 데이터 통합에서의 공정성에 대응하는 방법이 거의 없다.
• 공정성, 해석 가능성, 프라이버시, 강건성 간의 상호작용은 아직 충분히 탐색되지 않았으며, 잠재적 상충 관계(예: 공정성 vs. 프라이버시)와 상호보완적 관계(예: 강건성과 공정성)는 통합된 윤리-AI 프레임워크가 필요로 한다.