[論文レビュー] Hierarchical discriminative learning improves visual representations of biomedical microscopy

Cheng Jiang, Xinhai Hou+6 more|arXiv (Cornell University)|Mar 2, 2023

Cell Image Analysis Techniques被引用数 6

ひとこと要約

この論文では、病理スライド・パッチのデータ階層を活用して視覚的表現学習を向上させる、バイオメディカル顕微鏡画像向けの階層的判別的自己教師あり学習手法HiDiscを提案する。階層内の共通の系統的関係に基づいてポジティブペアを定義し、パッチ・スライド・患者レベルの統一的判別的目的関数を用いることで、強力なデータ拡張に依存せずにがん診断および遺伝子変異予測で最先端の性能を達成した。

ABSTRACT

Learning high-quality, self-supervised, visual representations is essential to advance the role of computer vision in biomedical microscopy and clinical medicine. Previous work has focused on self-supervised representation learning (SSL) methods developed for instance discrimination and applied them directly to image patches, or fields-of-view, sampled from gigapixel whole-slide images (WSIs) used for cancer diagnosis. However, this strategy is limited because it (1) assumes patches from the same patient are independent, (2) neglects the patient-slide-patch hierarchy of clinical biomedical microscopy, and (3) requires strong data augmentations that can degrade downstream performance. Importantly, sampled patches from WSIs of a patient's tumor are a diverse set of image examples that capture the same underlying cancer diagnosis. This motivated HiDisc, a data-driven method that leverages the inherent patient-slide-patch hierarchy of clinical biomedical microscopy to define a hierarchical discriminative learning task that implicitly learns features of the underlying diagnosis. HiDisc uses a self-supervised contrastive learning framework in which positive patch pairs are defined based on a common ancestry in the data hierarchy, and a unified patch, slide, and patient discriminative learning objective is used for visual SSL. We benchmark HiDisc visual representations on two vision tasks using two biomedical microscopy datasets, and demonstrate that (1) HiDisc pretraining outperforms current state-of-the-art self-supervised pretraining methods for cancer diagnosis and genetic mutation prediction, and (2) HiDisc learns high-quality visual representations using natural patch diversity without strong data augmentations.

研究の動機と目的

• 従来の自己教師あり学習（SSL）手法がパッチを独立したインスタンスとして扱い、患者－スライド－パッチの階層を無視するという限界を是正すること。
• 臨床病理学における全スライド画像（WSIs）の固有の階層的構造を活用して、視覚的表現の質を向上させること。
• 顕微鏡画像の生物学的意味のある特徴を損なう可能性がある、ドメインに依存しない強力なデータ拡張に依存するのを減らすこと。
• パッチ・スライド・患者レベルの判別を統合的に最適化する統一されたSSL目的関数を開発すること。
• 実世界のバイオメディカル顕微鏡画像データセットを用いて、ヒストパスロジー分類および遺伝子変異予測タスクにおける優れた下流性能を実証すること。

提案手法

• HiDiscは、パッチのポジティブペアを階層内の共通の系統的関係に基づいて定義する対照学習フレームワークを用いる。これは、ランダムなデータ拡張とは異なり、パッチを独立したインスタンスとして扱わない。
• パッチレベル、スライドレベル、患者レベルの判別を統合的に最適化する統一された判別的目的関数を導入する。
• 同じ患者またはスライドからのパッチをサンプリングすることでポジティブペアを形成し、多様性を高めつつ生物学的関連性を保持する。
• パッチ・スライド・患者レベルの学習可能な重み係数（λ）を用いたマルチレベル対照損失を用いてモデルを事前学習する。
• このアプローチは任意のシアンズ型表現学習フレームワークに一般化可能であり、強力な拡張処理を必要としない。
• 2つの多様なデータセットを用いた検証により、学習率やバッチサイズの変動に対しても訓練が安定していることが確認された。

実験結果

リサーチクエスチョン

• RQ1 全スライド画像の階層的構造を活用することで、バイオメディカル顕微鏡画像における自己教師あり視覚的表現学習が向上するか？
• RQ2 パッチ・スライド・患者レベルの統一的判別的目的関数は、標準的なインスタンスレベル対照学習よりも優れた下流性能をもたらすか？
• RQ3 強力なデータ拡張に依存せず、生物学的意味のある特徴を損なう可能性があるため、HiDiscは最先端の性能を達成できるか？
• RQ4 学習率、バッチサイズ、重み係数などのハイパーパrameterの選択に対して、HiDiscはどれほど頑健か？
• RQ5 階層的学習目的関数は、がん診断および遺伝子変異予測のためのより転送可能で正確な表現をもたらすか？

主な発見

• HiDiscは、スティミュレートド・ラマン散乱顕微鏡を用いた多クラスヒストパスロジックがん診断タスクにおいて、最先端の自己教師あり事前学習手法を上回り、SRHデータセットで88.4％の正確度を達成した。
• TCGAデータセットを用いた分子遺伝子変異予測において、HiDiscは患者レベルで92.0％の正確度を達成し、以前の最先端手法を上回った。
• SRHデータセットのパッチレベルで89.9％のAUROC、TCGAのスライドレベルで93.6％のAUROCを達成し、階層のすべてのレベルで優れた性能を示した。
• 両方のデータセットにおいて、学習率を10⁻⁵から10⁻¹の範囲で変化させても、高い性能を維持するという、学習率の変動に対する頑健性を示した。
• アブレーションスタディにより、患者またはスライドレベルの監視を除去すると性能が低下することが確認され、階層的目的関数の重要性が裏付けられた。
• 強力なデータ拡張に依存せず、階層内の自然なパッチ多様性が高品質な表現学習に十分であることが示された。