[논문 리뷰] AI-Driven Healthcare: A Review on Ensuring Fairness and Mitigating Bias

Sribala Vidyadhari Chinta, Zichong Wang외 6명|arXiv (Cornell University)|2024. 07. 29.

Ethics and Social Impacts of AI인용 수 20

한 줄 요약

한 의료 분야에서의 편향 소스, 공정성 우려, 그리고 다양한 임상 영역과 규제 맥락 전반에 걸친 불공정을 탐지하고 완화하기 위한 전략에 초점을 둔 의료 분야의 AI에 대한 고찰.

ABSTRACT

Artificial intelligence (AI) is rapidly advancing in healthcare, enhancing the efficiency and effectiveness of services across various specialties, including cardiology, ophthalmology, dermatology, emergency medicine, etc. AI applications have significantly improved diagnostic accuracy, treatment personalization, and patient outcome predictions by leveraging technologies such as machine learning, neural networks, and natural language processing. However, these advancements also introduce substantial ethical and fairness challenges, particularly related to biases in data and algorithms. These biases can lead to disparities in healthcare delivery, affecting diagnostic accuracy and treatment outcomes across different demographic groups. This review paper examines the integration of AI in healthcare, highlighting critical challenges related to bias and exploring strategies for mitigation. We emphasize the necessity of diverse datasets, fairness-aware algorithms, and regulatory frameworks to ensure equitable healthcare delivery. The paper concludes with recommendations for future research, advocating for interdisciplinary approaches, transparency in AI decision-making, and the development of innovative and inclusive AI applications.

연구 동기 및 목표

• AI의 의료 분야 성장과 그것이 제기하는 공정성 문제를 강조하여 연구의 동기를 제시한다.
• 데이터, 알고리즘, 배치 맥락에서의 편향 소스를 식별하고 분류한다.
• 진단, 치료, 건강 형평성에 미치는 편향된 AI의 결과를 검토한다.
• 편향 탐지 및 완화 접근법을 조사하고 윤리적 및 규제상의 고려사항을 논의한다.
• 향후 학제 간 연구 및 투명한 AI 배치를 위한 권고안을 제시한다.

제안 방법

• 심장학, 안과, 피부과, 신경학, 영상의학, 응급의료, 공중 보건 전반에 걸친 AI 적용에 관한 기존 문헌을 합성한다.
• 데이터 편향, 알고리즘 편향, 명시적 편향, 암묵적 편향, 선택 편향으로 유형을 분류하고 설명적 예를 제시한다.
• 오진, 불평등한 결과, 신뢰 저하, 법적/윤리적 함의, 자원 배분의 왜곡, 혁신의 저해를 포함한 편향의 결과를 논의한다.
• 통계 분석 및 감사 도구와 같은 편향 탐지 방법을 요약하고 완화 전략 및 거버넌스 고려사항을 제안한다.

실험 결과

연구 질문

• RQ1 의료에 사용되는 AI 시스템에서 편향은 어떻게 나타나는가?
• RQ2 의료 AI에서의 편향의 소스와 원인은 무엇이며 잠재적 결과는 무엇인가?
• RQ3 의료 AI 적용에서 편향을 어떻게 탐지하고 완화할 수 있는가?
• RQ4 의료에서 공정한 AI를 촉진하기 위해 필요한 윤리적, 법적, 거버넌스 고려사항은 무엇인가?

주요 결과

• 의료 AI의 편향은 데이터, 알고리즘, 명시적/암묵적 편향, 선택 효과에서 비롯되어 다양한 환자군에 영향을 준다.
• 편향된 AI는 오진, 불평등한 결과, 신뢰 저하, 법적/윤리적 문제, 자원 배분의 비효율을 초래할 수 있다.
• 피부과, 폐렴 진단, 자원 배분에서 편향이 관찰되어 다양한 데이터 세트와 투명성의 필요성을 강조한다.
• 편향 탐지 방법으로는 통계적 동등성, 동등한 기회, 예측 형평성, DIS, PROGRESS, IAT, 대시보드와 같은 감사 프레이워크가 포함된다.
• 완화 전략은 다양한 데이터, 공정성 인식 알고리즘, 투명성, 거버넌스를 강조하여 공정한 AI 기반 진료를 지원한다.