[논문 리뷰] Federated Semi-supervised Medical Image Classification via Inter-client Relation Matching

Quande Liu, Hongzheng Yang외 2명|arXiv (Cornell University)|2021. 06. 16.

AI in cancer detection참고 문헌 29인용 수 12

한 줄 요약

이 논문은 뇌내 출혈 분류에서 Fed-Consistency 대비 2.73% 높은 AUC를 기록하고 피부 병변 진단에서 1.33% 향상된 성능을 달성하며, 환자 간 질환 관계 매트릭스를 일치시켜 라벨이 없는 병원의 정보를 활용함으로써 모델 성능을 햖थ하는, 의료 영상 분류를 위한 최초의 분산 반감성 학습 프레임워크인 FedIRM을 제안한다. 이는 라벨이 없는 클라이언트에서 작업 지식의 감소를 완화하는 데 기여한다.

ABSTRACT

Federated learning (FL) has emerged with increasing popularity to collaborate distributed medical institutions for training deep networks. However, despite existing FL algorithms only allow the supervised training setting, most hospitals in realistic usually cannot afford the intricate data labeling due to absence of budget or expertise. This paper studies a practical yet challenging FL problem, named extit{Federated Semi-supervised Learning} (FSSL), which aims to learn a federated model by jointly utilizing the data from both labeled and unlabeled clients (i.e., hospitals). We present a novel approach for this problem, which improves over traditional consistency regularization mechanism with a new inter-client relation matching scheme. The proposed learning scheme explicitly connects the learning across labeled and unlabeled clients by aligning their extracted disease relationships, thereby mitigating the deficiency of task knowledge at unlabeled clients and promoting discriminative information from unlabeled samples. We validate our method on two large-scale medical image classification datasets. The effectiveness of our method has been demonstrated with the clear improvements over state-of-the-arts as well as the thorough ablation analysis on both tasks\footnote{Code will be made available at \url{https://github.com/liuquande/FedIRM}}.

연구 동기 및 목표

• 대부분의 병원에서 라벨이 없는 데이터를 보유하고 있는 의료 영상 분류 분야에서의 분산 반감성 학습(FedSSL) 도전 과제를 해결한다.
• 기존의 일致성 정규화 기법이 직접적인 감독이 없어 라벨이 없는 클라이언트에서 작업 지식을 유지하지 못하는 한계를 극복한다.
• 의료 영상 데이터 내에서 클라이언트 간 불변의 질환 관계 구조를 활용하여, 라벨이 있는 클라이언트에서 라벨이 없는 클라이언트로 지식을 전이할 수 있도록 한다.
• 분산된 부분적으로 라벨이 부여된 의료 데이터셋을 사용하여 모델 일반화 능력을 향상시키는 강력하고 개인정보를 보호하는 프레임워크를 개발한다.

제안 방법

• 라벨이 있는 클라이언트와 라벨이 없는 클라이언트 간 질환 관계 매트릭스를 일치시키기 위한 새로운 상호 클라이언트 관계 매칭(IRM) 손실을 제안한다.
• 구조적 작업 지식을 포착하기 위해 라벨이 있는 클라이언트에서 소프트맥스 이전 특징에서 질환 관계 매트릭스를 구성한다.
• 노이즈가 많은 가짜 레이블을 줄이기 위해 신뢰도 기반 필터링 메커니즘을 사용하여 라벨이 없는 클라이언트에서 신뢰할 수 있는 관계 매트릭스를 추정한다.
• IRM 손실을 일치성 정규화 프레임워크에 통합하여, 데이터 증강에 대한 예측 일致성을 강제하면서도 분류 가능한 작업 지식을 유지한다.
• 글로벌 집계 전략으로 FedAvg를 사용하며, 로컬 모델은 일치성 정규화와 IRM 손실을 모두 사용하여 훈련한다.
• 로컬 데이터 분포에 의존하지 않는 관계 매트릭스에 기반하여, 비I.I.D. 데이터 분포에 강건한 성능을 확보한다.

실험 결과

연구 질문

• RQ1 상호 클라이언트 간 질환 관계 매칭은 분산 반감성 의료 영상 분류에서 모델 성능 향상에 기여하는가?
• RQ2 제안된 IRM 손실은 일치 기반 훈련 중 라벨이 없는 클라이언트에서 작업 지식 감소를 어떻게 완화하는가?
• RQ3 라벨이 있는 클라이언트와 라벨이 없는 클라이언트의 수가 다양할 경우 FSSL 환경에서 모델 성능에 어떤 영향을 미치는가?
• RQ4 이 방법은 다양한 의료 영상 작업과 데이터 분포에 일반화되는가?

주요 결과

• 뇌내 출혈 분류에서 FedIRM은 Fed-Consistency 대비 2.73% 높은 AUC를 기록하여 상호 클라이언트 간 질환 관계 매칭의 효과를 입증한다.
• 피부 병변 진단에서 FedIRM은 Fed-Consistency 대비 AUC를 1.33% 향상시켜 다양한 의료 영상 작업에서의 일관된 성능 향상을 확인한다.
• 라벨이 있는 클라이언트 비율이 40% (10개 중 4개)에 불과할 때도 FedIRM은 89.21%의 AUC를 달성하여, 100% 라벨이 있는 데이터로 얻는 FedAvg의 상한선 90.48%에 근접한다.
• 라벨이 없는 클라이언트의 수가 증가할수록 성능이 안정적으로 향상되며, 실질적인 구현 가능성과 확장성의 잠재력을 보여준다.
• 제거 실험 결과, IRM 손실이 라벨이 있는 클라이언트와 라벨이 없는 클라이언트의 질환 관계 매트릭스 간 격차를 크게 줄임으로써 작업 지식을 유지하는 데 기여함을 확인한다.
• 다양한 라벨이 있는 클라이언트 수와 라벨이 없는 클라이언트 수에 대해 안정적인 성능을 유지함으로써, 데이터 불균형과 분산 환경에 대한 강건성을 입증한다.