[論文レビュー] A Hybrid Federated Learning Based Ensemble Approach for Lung Disease Diagnosis Leveraging Fusion of SWIN Transformer and CNN

Asif H. Chowdhury, Md Fahim Ul Islam+4 more|arXiv (Cornell University)|Feb 19, 2026

COVID-19 diagnosis using AI被引用数 0

ひとこと要約

論文は CNN ベースの転移学習モデル（VGG-19、Inception V3、DenseNet201）と SWIN Transformer を融合させたハイブリッド Federated Learning アンサンブルを提案し、COVID-19、肺炎、正常な胸部X線を診断する。フェデレーテッド設定で評価。

ABSTRACT

The significant advancements in computational power cre- ate a vast opportunity for using Artificial Intelligence in different ap- plications of healthcare and medical science. A Hybrid FL-Enabled Ensemble Approach For Lung Disease Diagnosis Leveraging a Combination of SWIN Transformer and CNN is the combination of cutting-edge technology of AI and Federated Learning. Since, medi- cal specialists and hospitals will have shared data space, based on that data, with the help of Artificial Intelligence and integration of federated learning, we can introduce a secure and distributed system for medical data processing and create an efficient and reliable system. The proposed hybrid model enables the detection of COVID-19 and Pneumonia based on x-ray reports. We will use advanced and the latest available tech- nology offered by Tensorflow and Keras along with Microsoft-developed Vision Transformer, that can help to fight against the pandemic that the world has to fight together as a united. We focused on using the latest available CNN models (DenseNet201, Inception V3, VGG 19) and the Transformer model SWIN Transformer in order to prepare our hy- brid model that can provide a reliable solution as a helping hand for the physician in the medical field. In this research, we will discuss how the Federated learning-based Hybrid AI model can improve the accuracy of disease diagnosis and severity prediction of a patient using the real-time continual learning approach and how the integration of federated learn- ing can ensure hybrid model security and keep the authenticity of the information.

研究の動機と目的

• 転移学習 CNN と SWIN Transformer を組み合わせた肺疾患検出用の融合モデルを開発する。
• データプライバシーを強化し、待機時間を短縮し、病院間でモデルの信頼性を向上させるためにフェデレーテッドラーニングを活用する。
• COVID-19 と肺炎の X 線データセットで性能を評価し、個別モデルと比較する。

提案手法

• X 線データ上で CNN ベースのモデル（VGG-19、Inception V3、DenseNet201）と SWIN Transformer を個別に訓練する。
• CNN モデルをアンサンブルし SWIN Transformer と融合してハイブリッド融合モデルを作成する。
• 病院間で訓練を分散させるためにフェデレーテッドラーニングを適用し、ローカルの更新を集約してグローバルモデルを更新する。
• 訓練時間・テスト時間と精度を用いて性能を測定し、ROC-AUC と混同行列を分析する。
• 融合モデルを個別モデルと比較し、和と平均の融合戦略の結果を報告する。

実験結果

リサーチクエスチョン

• RQ1 CNN 転移学習モデルとSWIN Transformer のハイブリッド融合は個別モデルより診断精度を向上させるか。
• RQ2 フェデレーテッドハイブリッドモデルの ROC-AUC および混同行列指標は非フェデレーテッドのベースラインと比べてどの程度改善されるか。
• RQ3 マルチ病院設定におけるフェデレーテッドラーニングは訓練効率とリソース使用量にどのような影響を与えるか。

主な発見

Model	Training Time (s)	Testing Time (s)	Accuracy (%)
VGG-19	14440	4	94.4
Inception V3	15200	2	94.5
DenseNet201	18120	2	94.1
SWIN Transformer	25650	4	82.5
Fusion Model (Sum)	24122	3	96.24
Fusion Model (Average)	21600	2	94

• 融合モデルは tested dataset において 96.24% の精度（和融合）と 94%（平均融合）を達成した。
• 個別モデルは 94.4%（VGG-19）、94.5%（Inception V3）、94.1%（DenseNet201）、82.5%（SWIN Transformer）。
• SWIN Transformer のみは CNN モデルと比較して低く、82.5% の精度で下回った。
• フェデレーテッド設定は substantial なハードウェアリソースを要し、例えば 1 回の実行で 35 GB RAM などを要した。
• 融合モデルは個別モデルより ROC-AUC が高く、融合アンサンブルは提示された図で AUC が優れている。
• 訓練時間はモデルごとに異なり、和融合モデルが最も高い報告精度を示した。