[논문 리뷰] Responsible AI in Healthcare

Federico Cabitza, Davide Ciucci외 2명|arXiv (Cornell University)|2022. 02. 19.

Misinformation and Its Impacts인용 수 4

한 줄 요약

이 논문은 의료 데이터의 불확실성과 온라인 건강 정보의 오염을 다루어 책임감 있는 의료 AI를 위한 프레임워크를 제안한다. 불확실성 인식 기반 기계학습 모델과 설명 가능하고 다기준 기반의 의사결정 시스템을 도입하여 임상 의사결정 지원의 투명성, 공정성, 신뢰성 향상에 기여한다.

ABSTRACT

This article discusses open problems, implemented solutions, and future research in the area of responsible AI in healthcare. In particular, we illustrate two main research themes related to the work of two laboratories within the Department of Informatics, Systems, and Communication at the University of Milano-Bicocca. The problems addressed concern, in particular, {uncertainty in medical data and machine advice}, and the problem of online health information disorder.

연구 동기 및 목표

• 표준 기계학습 파이프라인에서 간과되기 쉬운 생물학적, 분석적, 분석 이전/이후 변동성 등 의료 데이터의 불확실성 문제를 해결한다.
• 인간의 의사결정을 지원하는 투명하고 설명 가능한 AI 시스템을 개발하여 책임성과 편향 감소를 확보한다.
• 이질적인 필터링 방식이 아닌 점진적이고 이진적이지 않은 정보의 진정성 평가 방식을 통해 온라인 건강 정보 오염을 방지한다.
• 다기준 의사결정(MCDM) 기반의 모델 주도형 설명 가능한 평가 프레임워크를 통해 건강 정보 검색의 신뢰도를 향상시킨다.
• 임상적 관련성과 윤리적 강건성을 확보하기 위해 의료 전문가의 영역 지식을 하이브리드 형태의 부분적으로 모델 주도형, 부분적으로 데이터 주도형 시스템에 통합한다.

제안 방법

• 임상 데이터의 생물학적, 분석적, 분석 이전/이후 원인에서 기인하는 불확실성을 명시적으로 모델링하고 완화하는 새로운 기계학습 알고리즘을 설계 및 구현한다.
• 모델 출력의 추적 가능성과 해석 가능성을 보장하기 위해 설명 가능한 AI 기법을 활용하여 인간의 감시와 의사결정 자율성 지원한다.
• 정보의 진정성에 대한 연속적 측정 기반으로 건강 정보를 순위 매기는 다기준 의사결정(MCDM) 프레임워크를 개발하여 '진실/허위' 또는 '신뢰 가능/오락성'과 같은 이진 분류 방식을 대체한다.
• CLEF eHealth 및 기타 벤치마킹 이니셔티브에 참여하여 검증된 레이블링된 데이터셋과 평가 전략을 구축한다.
• 재현 가능성과 커뮤니티 활용을 지원하기 위해 불확실성 관리(예: scikit-weak, uncertainpy) 및 오락성 탐지(예: health-misinformation GitHub 레포지토리)를 위한 오픈소스 도구를 구축한다.
• 임상의사와의 협업을 통해 의료 영역 지식을 AI 시스템에 통합하여 모델 출력가 임상 현실과 윤리 기준을 반영하도록 보장한다.

실험 결과

연구 질문

• RQ1 임상 데이터의 생물학적, 분석적, 분석 이전/이후 변동성에서 기인하는 불확실성에 대비해 기계학습 시스템을 어떻게 강건하게 만들 수 있는가?
• RQ2 이진 필터링에 의존하지 않고 설명 가능하고 다기준 기반의 의사결정 모델은 온라인 건강 정보의 진정성 평가에 어떤 역할을 할 수 있는가?
• RQ3 오락성에 대비해 사용자 자율성을 유지하고 합법적인 건강 콘텐츠의 과잉 검열을 방지하기 위해 AI 시스템은 어떻게 설계되어야 하는가?
• RQ4 모델 주도형과 데이터 주도형 접근 방식을 융합한 하이브리드 접근 방식은 의료 의사결정 지원에서의 투명성과 임상적 관련성을 어떻게 향상시킬 수 있는가?
• RQ5 건강 정보 검색에서 AI 시스템의 공정성, 재현 가능성, 감사 가능성을 보장하기 위해 평가 프레임워크는 어떻게 표준화될 수 있는가?

주요 결과

• 제안된 불확실성 인식 기반 기계학습 모델은 데이터 변동성의 영향을 효과적으로 감소시켜 임상 예측의 신뢰도를 향상시킨다.
• 이진 분류 방식보다 점진적이고 이진적이지 않은 정보의 진정성 평가 방식이 합법적인 건강 콘텐츠 접근을 유지하면서도 오락성 위험을 줄이는 데 뛰어난 성능을 보인다.
• 건강 정보 평가에 MCDM 기법을 통합함으로써 설명 가능하고 추적 가능하며 감사 가능한 의사결정 과정을 실현할 수 있었다.
• uncertainpy와 scikit-weak와 같은 오픈소스 도구는 임상 데이터의 불확실성 모델링에 실용적인 구현을 제공하여 재현 가능성을 지원한다.
• CLEF eHealth 및 관련 워크숍에의 참여는 소비자 건강 검색과 오락성 탐지에 대한 표준화된 평가 프로토콜의 실현 가능성과 효과성을 입증한다.
• 지식 기반의 하이브리드 AI 모델은 더 높은 투명성과 임상적 추론에의 부합성을 보이며 의사결정 지원 시스템의 신뢰성과 책임성을 향상시킨다.