[논문 리뷰] Explainable, Domain-Adaptive, and Federated Artificial Intelligence in Medicine

Ahmad Chaddad, Qizong lu외 6명|arXiv (Cornell University)|2022. 11. 17.

Radiomics and Machine Learning in Medical Imaging인용 수 4

한 줄 요약

이 논문은 의료 AI의 핵심 과제인 모델의 해석 가능성, 영상 장치 간 도메인 이동, 데이터 기밀 보장 문제를 해결하기 위해 설명 가능 AI, 도메인 적응, 연합 학습을 통합한 통합 프레임워크를 제안한다. 후행적 해석 가능성, 도메인 불변 표현 학습, 탈중앙화된 모델 학습을 결합함으로써 임상 환경에서 신뢰할 수 있고 일반화 가능하며 기밀 보장이 되는 AI를 가능하게 한다.

ABSTRACT

Artificial intelligence (AI) continues to transform data analysis in many domains. Progress in each domain is driven by a growing body of annotated data, increased computational resources, and technological innovations. In medicine, the sensitivity of the data, the complexity of the tasks, the potentially high stakes, and a requirement of accountability give rise to a particular set of challenges. In this review, we focus on three key methodological approaches that address some of the particular challenges in AI-driven medical decision making. (1) Explainable AI aims to produce a human-interpretable justification for each output. Such models increase confidence if the results appear plausible and match the clinicians expectations. However, the absence of a plausible explanation does not imply an inaccurate model. Especially in highly non-linear, complex models that are tuned to maximize accuracy, such interpretable representations only reflect a small portion of the justification. (2) Domain adaptation and transfer learning enable AI models to be trained and applied across multiple domains. For example, a classification task based on images acquired on different acquisition hardware. (3) Federated learning enables learning large-scale models without exposing sensitive personal health information. Unlike centralized AI learning, where the centralized learning machine has access to the entire training data, the federated learning process iteratively updates models across multiple sites by exchanging only parameter updates, not personal health data. This narrative review covers the basic concepts, highlights relevant corner-stone and state-of-the-art research in the field, and discusses perspectives.

연구 동기 및 목표

• 의료 영상 분석에 사용되는 블랙박스 AI 모델에 대한 임상적 불신을 해소하기 위해 설명 가능 AI(XAI) 기법을 통해 모델의 해석 가능성을 향상시킨다.
• 스캐너, 프로토콜, 기관 간의 차이로 인한 영상 장치 간 도메인 이동으로 인한 성능 저하 문제를 해결한다.
• 민감한 환자 데이터를 공유하지 않고도 여러 의료 기관 간에 협업 학습을 가능하게 하여 데이터 기밀 보호 규정을 준수한다.
• XAI, 도메인 적응, 연합 학습을 통합하여 실생활 임상 적용을 위한 유기적인 파ip라인을 제공한다.
• 이질적이고 다중 기관 기반의 의료 영상 환경에서 딥 러닝 모델의 신뢰성과 일반화 능력을 향상시킨다.

제안 방법

• 예측에 영향을 주는 영상 영역를 강조하기 위해 클래스 활성화 맵핑(CAM)과 같은 후행적 해석 가능성 기법을 활용하여 열화도를 생성한다.
• 특징 기반 도메인 적응 기법, 특히 적대적 학습을 적용하여 소스(학습) 도메인과 타겟(배포) 도메인 간의 특징 분포를 정렬한다.
• 수평적 연합 학습을 구현하여 원천 환자 데이터를 국소화한 채로 여러 기관 간에 글로벌 모델을 학습시킨다.
• 중앙 집중식 집계 서버를 통해 원천 데이터를 사용하지 않고 모델 파라미터만을 사용하여 글로벌 모델을 반복적으로 업데이트함으로써 데이터 기밀 보장을 달성한다.
• 다양한 영상 프로토콜과 장비를 갖춘 기관 간의 도메인 이동을 줄이기 위해 도메인 적응 기법을 연합 학습 파이프라인 내에 통합한다.
• XAI를 연합 및 도메인 적응 모델과 융합하여 임상 의사결정 지원에서 설명 가능하고 일반화 가능하며 기밀 보장이 되는 예측을 제공한다.

실험 결과

연구 질문

• RQ1 어떻게 설명 가능 AI 기법이 의료 영상 분석에 사용되는 딥 러닝 모델에 대한 임상의의 신뢰를 향상시킬 수 있는가?
• RQ2 다른 영상 장치에서 촬영된 프로토콜의 차이로 인해 모델 성능이 저하되는 상황에서 도메인 적응 기법이 얼마나 성능 저하를 줄일 수 있는가?
• RQ3 연합 학습이 민감한 환자 데이터를暴露하지 않고도 여러 의료 기관 간에 효과적인 모델 학습을 가능하게 할 수 있는가?
• RQ4 XAI, 도메인 적응, 연합 학습을 임상 AI 응용에 통합할 때 발생하는 주요 과제는 무엇인가?
• RQ5 이 세 가지 방법론을 하나의 파이프라인으로 통합하여 의료 분야에서 강력하고 일반화 가능하며 기밀 보장이 되는 AI를 어떻게 지원할 수 있는가?

주요 결과

• CAM과 같은 후행적 해석 가능성 기법은 예측에 영향을 주는 영역를 강조함으로써 국소적 해석 가능성을 제공하지만, 복잡한 모델의 내부 의사결정 논리를 드러내지는 못한다.
• 적대적 도메인 적응 기법은 도메인 이동을 줄이고 다양한 영상 도메인 간의 모델 일반화 능력을 향상시키는 데 강력한 성능을 보인다.
• 연합 학습은 원천 데이터를 공유하지 않고도 기관 간 협업 학습을 가능하게 하여 환자 기밀 보장을 달성하고 데이터 보호 규정을 준수한다.
• 다만, 의료 분야에서 연합 학습는 아직 활용도가 낮으며 대부분의 연구가 수평적 FL에 국한되어 있고 중심화된 학습에 비해 성능이 제한적이다.
• 기관 간 데이터 이질성, 레이블 일관성 부족, 낮은 데이터 품질 등은 연합 및 도메인 적응 모델의 성능과 신뢰성에 영향을 주는 주요 과제로 남아 있다.
• 임상 실무에서 신뢰할 수 있고 일반화 가능하며 기밀 보장이 되는 AI 시스템을 구축하기 위해 XAI, 도메인 적응, 연합 학습을 통합한 통합 프레임워크가 필수적이다.