[論文レビュー] A Voting-Stacking Ensemble of Inception Networks for Cervical Cytology Classification

Linyi Qian, Qian Huang+2 more|arXiv (Cornell University)|Aug 5, 2023

Cervical Cancer and HPV ResearchMedicine被引用数 3

ひとこと要約

本稿では、頸部細胞診断分類のための3つのInceptionネットワークを用いたVoting-Stackingアンサンブルを提案する。投票アンサンブルからの誤分類サンプルを活用してメタラーナーを訓練することで、SIPakMed、Herlev、Mendeleyの3つのデータセットで100%の正確性を達成し、特徴量の融合の向上と耐性の強化により、最先端の手法を上回った。

ABSTRACT

Cervical cancer is one of the most severe diseases threatening women's health. Early detection and diagnosis can significantly reduce cancer risk, in which cervical cytology classification is indispensable. Researchers have recently designed many networks for automated cervical cancer diagnosis, but the limited accuracy and bulky size of these individual models cannot meet practical application needs. To address this issue, we propose a Voting-Stacking ensemble strategy, which employs three Inception networks as base learners and integrates their outputs through a voting ensemble. The samples misclassified by the ensemble model generate a new training set on which a linear classification model is trained as the meta-learner and performs the final predictions. In addition, a multi-level Stacking ensemble framework is designed to improve performance further. The method is evaluated on the SIPakMed, Herlev, and Mendeley datasets, achieving accuracies of 100%, 100%, and 100%, respectively. The experimental results outperform the current state-of-the-art (SOTA) methods, demonstrating its potential for reducing screening workload and helping pathologists detect cervical cancer.

研究の動機と目的

• 単一のディープラーニングモデルの限界、特に低い正確性と大きなモデルサイズを是正すること。
• 頸部細胞画像の高精度で自動分類を可能にすることで、病理医のスクリーニング作業負荷を軽減すること。
• 同種のモデルにおける一般化性能の低さと特徴量の重複を克服するため、新たなアンサンブル戦略を導入すること。
• 誤分類サンプルに限定して再訓練を行う2段階のアンサンブルフレームワークを通じて、分類性能を向上させること。
• 多様で公開済みの頸部細胞診断データセットにおいて、本手法の耐性とスケーラビリティを示すこと。

提案手法

• 一般化を向上させるために、均一なリサイズと組み合わせたオンラインおよびオフラインのデータ拡張を画像に適用する。
• 特徴量抽出のため、3つの事前学習済みInceptionファミリーのモデル（InceptionV3、InceptionResNetV2、Xception）を同種のベースラーナーとして使用する。
• ベースラーナーの予測を統合するための投票戦略を適用し、出力が矛盾するサンプルをメタラーニングの候補として特定する。
• 正しく分類されたインスタンスからの干渉を低減するために、誤分類サンプルにのみ特化して線形メタラーナーを訓練する。
• Voting-Stackingアンサンブルの出力を再訓練対象として用いることで、メタラーナーを再訓練し、マルチレベルのスタッキングアンサンブルフレームワークを実装する。
• ImageNetで初期化し、頸部細胞診断データセットで微調整することで、特徴表現を向上させるトランスファーラーニングを採用する。

実験結果

リサーチクエスチョン

• RQ1 投票スタッキングアンサンブル戦略は、単一モデル手法を上回る頸部細胞診断分類の正確性を向上させることができるか？
• RQ2 誤分類サンプルにのみメタラーナーを再訓練することで、標準的なスタッキング手法と比較してモデル性能が向上するか？
• RQ3 提案されたVoting-Stackingフレームワークは、ベンチマークとしての頸部細胞診断データセットにおいて、既存の最先端手法と比較してどのように差をつけるか？
• RQ4 マルチレベルスタッキングフレームワークは、頸部細胞分類における正確性と耐性をどの程度向上させるか？
• RQ5 提案されたアンサンブル手法は、頸部細胞診断を越えて、他の医療画像分類タスクにも一般化可能か？

主な発見

• 提案されたVoting-Stackingアンサンブルは、SIPakMedデータセットで100%の正確性、適合率、再現率、F1スコアを達成し、すべての先行SOTA手法を上回った。
• Herlevデータセットでは、すべての評価指標で100%の正確性を達成し、優れた耐性と一般化性能を示した。
• Mendeleyデータセットの評価では、すべての指標で100%の性能を確認し、FuzzyDistanceEnsemble（99.68%の正確性）やExemplarPyramid（99.47%の正確性）といった先行SOTA手法を大きく上回った。
• 5分割交差検証の結果、10%、20%、30%の異なるトレーニングセットサイズに対しても一貫した性能を示し、すべてのケースで100%の正確性を維持した。
• マルチレベルスタッキングアンサンブルは、Voting-Stackingアンサンブルの出力に対してメタラーナーを再訓練することで、さらに正確性を向上させ、階層的アンサンブル設計の有効性を裏付けた。
• パラバスアルおよび異常細胞といった困難な細胞クラスに対しても、本手法は優れた識別能力を示し、多様な細胞像特徴に対する強力な判別能力を示した。