[論文レビュー] Deep Instance-Level Hard Negative Mining Model for Histopathology Images

Meng Li, Lin Wu+4 more|arXiv (Cornell University)|Jun 24, 2019

AI in cancer detection参考文献 22被引用数 4

ひとこと要約

この論文は、適応的アテンションメカニズムとインスタンスレベルの重み付けを統合することで、弱教師付きバッグ分類の性能を向上させる、ヒストパスロジー画像解析のための深層インスタンスレベルハードネガティブマイニングモデルを提案する。ハードネガティブパッチを特定し再訓練することで、大腸および乳がんデータセットにおいて誤検出率を低減した状態で最先端の性能を達成した。

ABSTRACT

Histopathology image analysis can be considered as a Multiple instance learning (MIL) problem, where the whole slide histopathology image (WSI) is regarded as a bag of instances (i.e, patches) and the task is to predict a single class label to the WSI. However, in many real-life applications such as computational pathology, discovering the key instances that trigger the bag label is of great interest because it provides reasons for the decision made by the system. In this paper, we propose a deep convolutional neural network (CNN) model that addresses the primary task of a bag classification on a WSI and also learns to identify the response of each instance to provide interpretable results to the final prediction. We incorporate the attention mechanism into the proposed model to operate the transformation of instances and learn attention weights to allow us to find key patches. To perform a balanced training, we introduce adaptive weighing in each training bag to explicitly adjust the weight distribution in order to concentrate more on the contribution of hard samples. Based on the learned attention weights, we further develop a solution to boost the classification performance by generating the bags with hard negative instances. We conduct extensive experiments on colon and breast cancer histopathology data and show that our framework achieves state-of-the-art performance.

研究の動機と目的

• 解釈可能な計算病理学のため、全身スライド画像（WSIs）における重要な診断パッチを特定する課題に対処する。
• 複数インスタンス学習（MIL）におけるトレーニングのアンバランスを、分類を誤導するハードネガティブインスタンスに注目することで緩和する。
• ハードネガティブパッチから合成されたトレーニングバッグを用いることで、モデルのロバスト性と精度を向上させる。
• アテンション重みを用いたエンドツーエンド学習を可能にし、WSIsにおける顕著で意思決定に寄与するパッチを強調する。

提案手法

• 深層CNNにアテンションメカニズムを統合し、バッグレベルの予測に寄与する重要なパッチを特定するインスタンスレベルのアテンション重みを学習する。
• バックプロパゲーション中にハードネガティブインスタンスに高い重要度を割り当てる適応的損失重み付けを適用し、トレーニングのバランスを取る。
• アテンションスコアを用いて特定された最も困難なネガティブパッチを用いて、新しいトレーニングバッグを構築するバッグ生成アルゴリズムを開発する。
• 2段階のトレーニングプロセスを採用する：まず適応的アテンションでモデルを訓練し、次にハードネガティブバッグを生成して再訓練することで性能を向上させる。
• インスタンスレベルのアテンションを用い、分類の前段階でパッチ埋め込みに適用可能な学習可能なアテンションメカニズムとしてのアテンション重みを計算する。
• 10分割/4分割交差検証を5回繰り返し実施し、複数のデータ分割においても堅牢な評価を確保する。

実験結果

リサーチクエスチョン

• RQ1 アテンションメカニズムをどのように効果的に活用して、ヒストパスロジーWSIにおける重要な診断パッチを特定できるか？
• RQ2 ハードネガティブサンプルに注目することで、適応的インスタンスレベル重み付けがモデルの一般化性能を向上させられるか？
• RQ3 ハードネガティブインスタンスから合成されたトレーニングバッグの生成が、分類精度の向上と誤検出率の低減に寄与するか？
• RQ4 本手法は、実際のヒストパスロジーデータセットにおいて、AUC、FPR、Fスコアの観点から最先端のMIL手法と比較してどのように差をつけるか？

主な発見

• 本手法は大腸がんデータセットでテスト精度94.8%を達成し、ベースラインのMILモデル（90.4%）を上回り、新たなSOTA結果を樹立した。
• UCSBデータセットでは、FMB（特徴クラスタリングサンプリング）戦略を用いてAUC 0.999を達成し、Songら[17]のSOTA性能と同等の水準に達したが、誤検出率は0.040 ± 0.019まで大幅に低下した。
• FMBベースのハードネガティブバッグ生成戦略により、大腸がんデータでは誤検出率が0.036 ± 0.007まで低下し、ベースライン（0.104 ± 0.012）と比較して顕著な改善が得られた。
• FMBを用いた場合、大腸がんデータでリコール0.920、Fスコア0.945を達成し、精度を損なわず陽性症例を効果的に検出できることを示した。
• アテンションメカニズムは、図3に示すように、悪性領域およびハードネガティブパッチを効果的に強調しており、解釈可能性と臨床的妥当性を示している。
• FMBによるハードネガティブマイニングの導入により、大腸がんデータセットではベースモデルと比較してFスコアが4.4ポイント向上した。