[논문 리뷰] A Hybrid Federated Learning Based Ensemble Approach for Lung Disease Diagnosis Leveraging Fusion of SWIN Transformer and CNN

Asif H. Chowdhury, Md Fahim Ul Islam외 4명|arXiv (Cornell University)|2026. 02. 19.

COVID-19 diagnosis using AI인용 수 0

한 줄 요약

이 논문은 CNN 기반 전이 학습 모델(VGG-19, Inception V3, DenseNet201)을 SWIN Transformer와 융합하여 COVID-19, 폐렴, 정상 흉부 X선 진단을 수행하는 하이브리드 연합 학습 앙상블을 제안하고, 연합 설정에서 평가합니다.

ABSTRACT

The significant advancements in computational power cre- ate a vast opportunity for using Artificial Intelligence in different ap- plications of healthcare and medical science. A Hybrid FL-Enabled Ensemble Approach For Lung Disease Diagnosis Leveraging a Combination of SWIN Transformer and CNN is the combination of cutting-edge technology of AI and Federated Learning. Since, medi- cal specialists and hospitals will have shared data space, based on that data, with the help of Artificial Intelligence and integration of federated learning, we can introduce a secure and distributed system for medical data processing and create an efficient and reliable system. The proposed hybrid model enables the detection of COVID-19 and Pneumonia based on x-ray reports. We will use advanced and the latest available tech- nology offered by Tensorflow and Keras along with Microsoft-developed Vision Transformer, that can help to fight against the pandemic that the world has to fight together as a united. We focused on using the latest available CNN models (DenseNet201, Inception V3, VGG 19) and the Transformer model SWIN Transformer in order to prepare our hy- brid model that can provide a reliable solution as a helping hand for the physician in the medical field. In this research, we will discuss how the Federated learning-based Hybrid AI model can improve the accuracy of disease diagnosis and severity prediction of a patient using the real-time continual learning approach and how the integration of federated learn- ing can ensure hybrid model security and keep the authenticity of the information.

연구 동기 및 목표

• 전이 학습 CNN과 SWIN Transformer를 결합한 폐 질환 탐지용 융합 모델을 개발한다.
• 데이터 프라이버시를 강화하고 대기 지연을 줄이며 병원 간 모델 신뢰성을 향상시키기 위해 연합 학습을 활용한다.
• COVID-19와 폐렴 X-레이 데이터셋에서 성능을 평가하고 개별 모델과 비교한다.

제안 방법

• X-ray 데이터에서 CNN 기반 모델(VGG-19, Inception V3, DenseNet201)과 SWIN Transformer를 각각 학습한다.
• CNN 모델들을 앙상블하고 SWIN Transformer와 융합하여 하이브리드 융합 모델을 만든다.
• 병원 간에 학습을 분산시키기 위해 연합 학습을 적용하고, 로컬 업데이트를 집계하여 글로벌 모델을 업데이트한다.
• 학습/테스트 시간과 정확도를 측정하고 ROC-AUC 및 혼동 행렬을 분석한다.
• 융합 모델을 개별 모델과 비교하고 합/평균 융합 전략의 결과를 보고한다.

실험 결과

연구 질문

• RQ1 하이브리드 CNN 전이 학습 모델과 SWIN Transformer의 융합이 개별 모델보다 진단 정확도를 개선하는가?
• RQ2 연합 하이브리드 모델이 비연합 기준선에 비해 ROC-AUC 및 혼동 행렬 지표에서 어떤 향상을 보이는가?
• RQ3 다기관 환경에서 연합 학습이 학습 효율성과 자원 사용에 어떤 영향을 미치는가?

주요 결과

• 융합 모델은 테스트 데이터셋에서 합 융합의 경우 96.24% 정확도, 평균 융합의 경우 94%를 달성했다.
• 개별 모델은 각각 94.4%(VGG-19), 94.5%(Inception V3), 94.1%(DenseNet201), 82.5%(SWIN Transformer)의 정확도를 보였다.
• SWIN Transformer 단독으로는 CNN 모델에 비해 82.5%의 정확도로 성능이 낮았다.
• 연합 설정은 단일 실행에서 예를 들어 35 GB RAM과 같은 상당한 하드웨어 자원을 필요로 했다.
• 융합 모델은 개별 모델보다 ROC-AUC가 높았고, 제시된 도표에서 융합 앙상블이 더 우수한 AUC를 보였다.
• 학습 시간은 모델별로 차이가 있었고, 합 융합 모델이 보고된 정확도가 가장 높았다.