[논문 리뷰] Fairness via AI: Bias Reduction in Medical Information

Shiri Dori-Hacohen, Roberto E. Montenegro외 5명|arXiv (Cornell University)|2021. 09. 06.

Ethics in Clinical Research참고 문헌 15인용 수 4

한 줄 요약

이 논문은 추천 시스템 및 온라인 콘텐츠 플랫폼에서 인공지능(AI)을 활용해 사전에 편향된 건강 정보—'비스인포메이션'(bisinformation)으로 명명됨—을 탐지하고 완화하기 위한 새로운 'AI를 통한 공정성(Fairness via AI)' 프레임워크를 제안한다. 단지 AI 모델의 편향을 보정하는 데 그치지 않고, 의료 정보의 사회적 불평등의 근본 원인을 다루는 방식으로, 다학제적 협업과 정밀한 계산 방법을 통해 건강 결과의 격차를 줄이려는 목적이 있다.

ABSTRACT

Most Fairness in AI research focuses on exposing biases in AI systems. A broader lens on fairness reveals that AI can serve a greater aspiration: rooting out societal inequities from their source. Specifically, we focus on inequities in health information, and aim to reduce bias in that domain using AI. The AI algorithms under the hood of search engines and social media, many of which are based on recommender systems, have an outsized impact on the quality of medical and health information online. Therefore, embedding bias detection and reduction into these recommender systems serving up medical and health content online could have an outsized positive impact on patient outcomes and wellbeing. In this position paper, we offer the following contributions: (1) we propose a novel framework of Fairness via AI, inspired by insights from medical education, sociology and antiracism; (2) we define a new term, bisinformation, which is related to, but distinct from, misinformation, and encourage researchers to study it; (3) we propose using AI to study, detect and mitigate biased, harmful, and/or false health information that disproportionately hurts minority groups in society; and (4) we suggest several pillars and pose several open problems in order to seed inquiry in this new space. While part (3) of this work specifically focuses on the health domain, the fundamental computer science advances and contributions stemming from research efforts in bias reduction and Fairness via AI have broad implications in all areas of society.

연구 동기 및 목표

• 소수자족에 더 큰 피해를 주는 의료 정보 유통의 체계적 편향을 해결하기 위해.
• 'AI의 공정성(Fairness in AI)'에서 'AI를 통한 공정성(Fairness via AI)'으로의 전환을 제안하기 위해—AI를 단지 모델의 편향을 수정하는 데 쓰는 것이 아니라, 사회적 불평등의 근본 원인을 적극적으로 제거하기 위해 사용하기 위함이다.
• '비스인포메이션'을 정의하고 새로운 범주로 도입하기 위해—사실적으로 정확하지만 구조적 배경 없이 해로운 편견(예: 인종 또는 성별에 기반한 가정)을 내포한 의료 콘텐츠로, 건강 격차를 지속시킨다.
• 컴퓨터 과학, 의학, 사회학, 공중보건 간의 다학제적 협업을 통해 대규모로 비스인포메이션을 연구하고 완화하기 위한 방안을 제안하기 위해.
• 온라인 건강 생태계에서 비스인포메이션의 탐지, 측정, 대응에 있어 핵심 연구 격차와 열린 문제를 규명하기 위해.

제안 방법

• AI를 활용해 건강 정보 시스템 내의 구조적 불평등을 연구하고 탐지하며 시정하는 데 목적이 있는 새로운 프레임워크인 'AI를 통한 공정성'을 제안한다.
• 비정보(misinformation)와는 별개의 범주로 '비스인포메이션'을 도입한다: 사실적으로 정확하지만 구조적 배경 없이 해로운 편견(예: 인종 또는 성별에 기반한 가정)을 내포한 정보.
• 자연어 처리(NLP) 및 기계학습 기법을 활용해 의료 교육 과정과 온라인 건강 콘텐츠 내의 편향된 언어 및 이미지 탐지를 대규모로 수행한다.
• 이전의 온라인 논란 분포 연구를 바탕으로, 다양한 인구 집단 간 비스인포메이션의 비균형적 확산을 이해하기 위해 인구에 민감한 모델링을 적용한다.
• 의료 교육, 반인종주의 이론, 사회학의 통찰을 통합하여 AI 개입을 실제 구조적 불평등에 기반하게 한다.
• 추천 시스템 분 析을 통해 공중보건 위기(예: 코로나19 정보 오염) 기간 동안 비스인포메이션의 확산이 어떻게 AI 기반 추천 시스템에 의해 증폭되는지 규명한다.

실험 결과

연구 질문

• RQ1 AI를 통한 공정성(Fairness via AI)을 통해 개선이 가능한 건강 정보와 관련된 사회 문제 중 가장 적합한 것은 무엇인가?
• RQ2 의료 콘텐츠 내 비스인포메이션의 탐지 및 완화에 가장 효과적인 기존 또는 신규 AI 기법은 무엇인가?
• RQ3 공정성 연구의 윤리적 및 사회적 영향을 높이기 위해 다학제적 협업을 체계적으로 촉진하는 방법은 무엇인가?
• RQ4 비스인포메이션은 온라인에서 어떻게, 어디서 퍼지며, 다양한 인구 집단 간에 비균형적으로 퍼지는가?
• RQ5 가장 해로운 비스인포메이션 및 비정보 유형은 무엇이며, 사실 확인 및 대응 메시징의 우선순위에 두어야 하는가?

주요 결과

• '비스인포메이션'이라는 용어는 사실적으로 정확하지만 구조적 배경이 없어 사회적으로 해로운 편향을 내포한 중요한 편향된 건강 정보의 형태를 정확히 묘사하며, 연구가 부족한 분야이다.
• 의료 교육은 여전히 인종을 유전적 지표로 사용하는 등의 해로운 편견을 유지하고 있으며, 사회적·구조적 건강 결정요인(SSDoH)을 다루지 않고 있다.
• 비스인포메이션은 검색 엔진과 소셜 미디어를 포함한 온라인 플랫폼을 통해 체계적으로 확산되며, AI 기반 추천 시스템이 편향된 메시지를 증폭시킨다.
• 다양한 건강 맥락에서 비스인포메이션에 대한 대규모 계산 연구의 격차가 크며, 소수자족의 건강 결과에 영향을 미친다는 사실이 이미 입증되었음에도 불구하고.
• 기존의 'AI의 공정성'보다 'AI를 통한 공정성' 프레임워크가 불평등의 근본 원인을 겨냥함으로써 더 큰 영향력을 발휘할 수 있다.
• 국립의학시험위원회의 스템머 플러드 기금에서 지원하는 신규 연구 보조금 등이 이 프레임워크의 실현 가능성과 실제 의료 교육 현장에서의 관련성을 뒷받침한다.