[論文レビュー] Self-distillation Augmented Masked Autoencoders for Histopathological Image Classification

Yang Luo, Zhineng Chen+2 more|arXiv (Cornell University)|Mar 31, 2022

AI in cancer detection被引用数 11

ひとこと要約

本稿では、可視パッチのデコーダ特徴からエンコーダの浅い層へ知識を転送することで特徴表現を向上させる、組織病理画像分類を目的とした自己蒸留拡張型マスキングオートエーコーダ、SD-MAEを提案する。この手法は、標準的なMAEや対照的学習よりも優れた性能を示し、特に低多様性およびクロスドメイン設定において、高い精度と安定性を達成し、複数のベンチマークで最先端の結果を達成した。

ABSTRACT

Self-supervised learning (SSL) has drawn increasing attention in histopathological image analysis in recent years. Compared to contrastive learning which is troubled with the false negative problem, i.e., semantically similar images are selected as negative samples, masked autoencoders (MAE) building SSL from a generative paradigm is probably a more appropriate pre-training. In this paper, we introduce MAE and verify the effect of visible patches for histopathological image understanding. Moreover, a novel SD-MAE model is proposed to enable a self-distillation augmented MAE. Besides the reconstruction loss on masked image patches, SD-MAE further imposes the self-distillation loss on visible patches to enhance the representational capacity of the encoder located shallow layer. We apply SD-MAE to histopathological image classification, cell segmentation and object detection. Experiments demonstrate that SD-MAE shows highly competitive performance when compared with other SSL methods in these tasks.

研究の動機と目的

• 組織病理画像における対照的学習の高い偽陰性リスクを、クラス多様性が限定的で意味的同質性が高いという点で是正すること。
• 通常の事前学習では無視されがちな可視パッチを活用することで、マスキングオートエーコーダ（MAE）の性能を向上させること。
• 可視パッチのデコーダ特徴から得られる知識を、自己蒸留によってエンコーダの浅い層の表現能力を強化すること。
• 分類、セグメンテーション、オブジェクト検出を含む複数の下流タスクにおいて、SD-MAEの有効性を検証すること。
• 低多様性およびクロスドメイン設定において、MAEや他の自己教師付き学習（SSL）手法と比較して、SD-MAEが優れた性能と頑健性を示すことを実証すること。

提案手法

• SD-MAEは、可視パッチのデコーダ特徴から、対応するエンコーダの浅い層の特徴へ知識を転送する自己蒸留損失を導入する。
• この手法では、デコーダの出力特徴を「教師」とし、可視パッチのエンコーダ出力特徴を「生徒」として知識蒸留を実行する。
• 分離された訓練戦略により、自己蒸留損失に可視パッチの小さな割合（0.2%）を適用することで、安定性と性能が向上する。
• 自己蒸留損失はピクセルレベルの再構成ではなく、特徴表現に適用されるため、より深い特徴学習が可能になる。
• モデルはバックボーンとしてビジョントランスフォーマ（ViT）を用い、マスクと予測の事前学習プロトコルに従って、ラベルなしの全スライド画像（WSIs）で事前学習を行う。
• 微調整による転移学習を、分類、セマンティックセグメンテーション、オブジェクト検出を含む下流タスクで評価する。

実験結果

リサーチクエスチョン

• RQ1 可視パッチにおける自己蒸留は、組織病理画像のマスキングオートエーコーダにおけるエンコーダの表現能力を向上させるか？
• RQ2 特にクラス数が少なく多様性に欠けるデータセットにおいて、SD-MAEは対照的学習や標準的なMAEと比較して、精度と安定性に優れているか？
• RQ3 SD-MAEは、例えば結腸がんから乳がんのWSIへとドメインを跨いで一般化できるか？
• RQ4 ピクセルレベルの再構成と比較して、特徴レベルの自己蒸留は、より優れた注目マップと特徴の識別能をもたらすか？
• RQ5 可視パッチの知識蒸留は、セグメンテーションおよびオブジェクト検出タスクにおける下流性能にどの程度寄与するか？

主な発見

• MAEと比較して、PCamでは分類精度が1.6%向上し、NCTでは0.6%向上した。標準偏差も±0.8（MAE：±1.0）に低下し、より高い安定性を示した。
• クロスドメイン転移において、SD-MAEはMAEよりも4–5.7%高い性能を達成した。特に、多様性の高いデータセットから多様性が低いデータセットへ転移する際、顕著な優位性を示した。
• セマンティックセグメンテーションタスクにおけるMoNuSegとGlasでは、それぞれ92.3%および90.6%のaAccを達成し、MAE（92.2%および90.4% aAcc）を上回った。
• NuCLSにおけるオブジェクト検出では、PCamで事前学習した場合19.7 mAP、NCTで事前学習した場合20.5 mAPを達成し、MAEをそれぞれ0.7点および1.6点上回った。
• 可視化結果から、SD-MAEは特に低多様性設定において、より焦点が強く多様性のある注目マップを学習していることが分かった。これは、広い注目分布と、重要な特徴に対する高い活性化を示している。
• アブレーションスタディにより、ピクセルレベルのMSE損失を可視パッチにおける自己蒸留損失に置き換えることで、特徴ベースのMSEと比較して0.3%の精度向上が得られ、標準的なMAEと比較して0.5%の向上が確認された。