[논문 리뷰] Addressing Intersectionality, Explainability, and Ethics in AI-Driven Diagnostics: A Rebuttal and Call for Transdiciplinary Action

Myles Joshua Toledo Tan, Panayiotis V. Benos|ArXiv.org|2025. 01. 15.

Artificial Intelligence in Healthcare and Education인용 수 7

한 줄 요약

이 논문은 인공지능 진단의 순수하게 정확도에 초점을 둔 관점을 반박하고, 윤리적이고 공정한 AI 주도 의료를 보장하기 위해 교차성, 프라이버시, 설명가능성, 그리고 초학제적 협력의 필요성을 제시한다.

ABSTRACT

The increasing integration of artificial intelligence (AI) into medical diagnostics necessitates a critical examination of its ethical and practical implications. While the prioritization of diagnostic accuracy, as advocated by Sabuncu et al. (2025), is essential, this approach risks oversimplifying complex socio-ethical issues, including fairness, privacy, and intersectionality. This rebuttal emphasizes the dangers of reducing multifaceted health disparities to quantifiable metrics and advocates for a more transdisciplinary approach. By incorporating insights from social sciences, ethics, and public health, AI systems can address the compounded effects of intersecting identities and safeguard sensitive data. Additionally, explainability and interpretability must be central to AI design, fostering trust and accountability. This paper calls for a framework that balances accuracy with fairness, privacy, and inclusivity to ensure AI-driven diagnostics serve diverse populations equitably and ethically.

연구 동기 및 목표

• AI 주도 의료 진단에서 진단 정확도에만 집중하는 것의 윤리적 한계를 강조한다.
• AI 시스템에 교차성, 사회적 건강 결정요인, 그리고 더 넓은 결정요인을 포함시키는 것을 주장을 제시한다.
• 민감한 특성의 남용으로 인한 피해를 방지하기 위한 프라이버시, 데이터 보안, 거버넌스를 강조한다.
• 설명가능성, 투명성, 참여적이고 초학제적 개발을 옹호한다.

제안 방법

• AI 진단에서 정확도를 공정성보다 우선시하는 입장에 대한 비판적 분석.
• 사회과학, 윤리학, 공중보건 인사이트를 통합한 초학제적 프레임워크를 제안한다.
• 교차성 공정성, 건강 결정요인 통합, 프라이버시와 보안, 초학제적 협력의 네 기둥으로 구성된 프레임워크를 개요화한다.
• 프라이버시를 보존하는 AI를 위한 방법론적 접근법을 제안한다(예: 차등 프라이버시, 연합학습).
• 교차성 및 실제 건강 결정요인을 반영하는 지표와 평가를 옹호한다.

Descriptio 1: Framework for an Equity-Centered and AI-Driven Diagnostics. This framework illustrates the four pillars essential for achieving equitable and inclusive AI-driven diagnostics. These include Intersectional Fairness, Determinants of Health Integration (social; environmental; behavioral an

실험 결과

연구 질문

• RQ1 교차성과 건강의 사회적 결정요인이 AI 주도 진단의 공정성에 어떠한 영향을 미치는가?
• RQ2 정확성과 공정성, 프라이버시 및 포용성을 균형 있게 다룰 수 있는 프레임워크와 거버넌스 구조는 무엇인가?
• RQ3 설명가능성과 초학제적 협력이 신뢰와 형평성을 향상시키기 위해 AI 개발 수명주기에 어떻게 통합될 수 있는가?

주요 결과

• 건강 불평등을 이질적 하위 인구집단 및 지표로 축소하는 것은 불평등을 지속시킬 위험이 있음을 주장한다.
• 인종은 일관된 생물학적 근거가 없는 사회적 구성물임을 강조하고 인종을 진단 프록시로 사용하는 것에 주의를 기울인다.
• 민감한 특성을 사용하여 AI 성능을 최적화할 때의 프라이버시 및 데이터 보안 위험을 강조한다.
• AI 시스템에 건강의 생활 습관, 환경 및 구조적 결정요인을 통합하여 현실 세계의 복잡성을 반영할 것을 옹호한다.
• AI 주도 진단의 책임성과 신뢰를 확보하기 위해 투명성, 해석가능성, 거버넌스를 요구한다.
• 공정한 AI 진단을 안내하는 네 기둥의 응집 프레임워크를 제안한다.