[論文レビュー] Multiple Instance Learning Framework with Masked Hard Instance Mining for Whole Slide Image Classification

Wenhao Tang, Sheng Huang+4 more|arXiv (Cornell University)|Jul 28, 2023

Image Retrieval and Classification TechniquesComputer Science被引用数 3

ひとこと要約

本論文では、モーメンタム更新と一貫性正則化を用いたシアンテス型教師-生徒構造によるマスク付きハードインスタンスマイニング（MHIM）を用いて、注目度の低いが分類が難しいインスタンスを暗黙的にマイニングすることで、全スライド画像（WSI）分類の性能を向上させる、新しいMultiple Instance Learning（MIL）フレームワーク、MHIM-MILを提案する。注目度の高いインスタンスのみに注目するのではなく、より目立たないが困難なパッチに注目することで、CAMELYON-16およびTCGA Lung Cancerデータセットにおいて、低い訓練コストで最先端の性能を達成した。

ABSTRACT

The whole slide image (WSI) classification is often formulated as a multiple instance learning (MIL) problem. Since the positive tissue is only a small fraction of the gigapixel WSI, existing MIL methods intuitively focus on identifying salient instances via attention mechanisms. However, this leads to a bias towards easy-to-classify instances while neglecting hard-to-classify instances. Some literature has revealed that hard examples are beneficial for modeling a discriminative boundary accurately. By applying such an idea at the instance level, we elaborate a novel MIL framework with masked hard instance mining (MHIM-MIL), which uses a Siamese structure (Teacher-Student) with a consistency constraint to explore the potential hard instances. With several instance masking strategies based on attention scores, MHIM-MIL employs a momentum teacher to implicitly mine hard instances for training the student model, which can be any attention-based MIL model. This counter-intuitive strategy essentially enables the student to learn a better discriminating boundary. Moreover, the student is used to update the teacher with an exponential moving average (EMA), which in turn identifies new hard instances for subsequent training iterations and stabilizes the optimization. Experimental results on the CAMELYON-16 and TCGA Lung Cancer datasets demonstrate that MHIM-MIL outperforms other latest methods in terms of performance and training cost. The code is available at: https://github.com/DearCaat/MHIM-MIL.

研究の動機と目的

• 既存のMIL手法が、分類が容易な注目度の高いインスタンスに過剰に注目し、一般化性能が低いという限界を是正すること。
• 弱教師付きWSI分類において、分類が難しいインスタンスを暗黙的に特定し、それらに注目することでモデルの識別能力を向上させること。
• 追加のパラメータや複雑な勾配更新を必要とせず、安定性と効率性を向上させる訓練フレームワークを開発すること。
• 一貫性制約とマスク付きインスタンスマイニング戦略を組み合わせることで、過学習を軽減し、モデルの頑健性を向上させること。
• MHIM-MILが、実世界のWSIデータセットにおけるさまざまなアテンションベースのMILモデルに一般化可能で効果的であることを示すこと。

提案手法

• MHIM-MILは、生徒モデルが、モーメンタム更新された教師によってマイニングされたハードインスタンスを用いて訓練される、シアンテス型教師-生徒アーキテクチャを採用する。
• モーメンタム教師は、生徒のパラメータの指数移動平均（EMA）を用いて更新され、安定的かつ段階的な知識蒸留を保証する。
• アテンションスコアに基づいてインスタンスマスキング戦略が適用され、高アテンションスコアのパッチがマスクされることで、生徒が注目度が低く分類が難しいインスタンスに注目するよう強制される。
• 3種類のハイブリッドマスキング戦略が導入され、ハードインスタンスの分布を多様化させることで、訓練効率を向上させ、過学習のリスクを低減する。
• バッチレベルのラベルに加えて、追加の教師的信号を活用するために、生徒と教師の予測間に一貫性制約が課される。
• このフレームワークは、任意のアテンションベースのMILモデルと互換性があり、プラグアンドプレイ統合が可能で、広範な適用性を持つ。

実験結果

リサーチクエスチョン

• RQ1 注目度の高いインスタンスではなく、分類が難しいインスタンスに注目することで、MILベースのWSI分類器の一般化性能と識別能力が向上するか？
• RQ2 WSI分類においてインスタンスレベルのアノテーションが存在しない状況で、どのようにしてハードインスタンスを効果的にマイニングできるか？
• RQ3 一貫性正則化を組み合わせたモーメンタムベースの教師-生徒フレームワークは、MILにおけるハードインスタンスマイニングの安定性と性能を向上させるか？
• RQ4 従来のアテンションベースのMIL手法と比較して、マスク付きハードインスタンスマイニングは過学習を軽減し、訓練効率を向上させるか？
• RQ5 MHIM-MILは、さまざまなアテンションベースのMILモデルおよびWSIデータセットにどの程度一般化可能か？

主な発見

• MHIM-MILはCAMELYON-16データセットにおいて最先端の性能を達成し、ベースラインのAB-MILと比較してAUCが0.97%向上した。
• TCGA Lung Cancerデータセットでは、MHIM-MILがベースラインのAB-MILと比較してAUCを1.00%向上させ、異なるモデル間で一貫した向上を示した。
• EMA更新戦略を用いたモーメンタム教師が最良の性能を発揮し、固定初期化やバッチ勾配更新を行わない教師よりも優れた性能を示した。
• 可視化結果から、MHIM-MILはより包括的かつ正確な腫瘍確率マップを生成しており、真の腫瘍領域をカバーする一方で、非腫瘍領域の誤検出を低減していることが明らかになった。
• フレームワークは注目度の高いパッチへの依存を軽減し、微細で分類が難しい腫瘍領域の検出を向上させ、モデルの頑健性と一般化性能を向上させた。
• 追加のパラメータを追加せず、低い訓練コストでより高い性能を達成しており、効率性と安定性の向上を示した。