[論文レビュー] Deep Learning with Permutation-invariant Operator for Multi-instance Histopathology Classification

Jakub M. Tomczak, Maximilian Ilse+1 more|arXiv (Cornell University)|Dec 1, 2017

AI in cancer detection被引用数 7

ひとこと要約

本論文は、共有ニューラルネットワークからのパッチレベル予測を集合化するための置換不変演算子を用いた、マルチインスタンス組織病理学分類のためのディープラーニングフレームワークを提案する。この手法は、小規模な乳がんデータセットにおいて競争力ある性能（AUC: 0.88–0.90）を達成し、ノイズありOR演算子がテストされた演算子の中で最も優れた結果を示した。

ABSTRACT

The computer-aided analysis of medical scans is a longstanding goal in the medical imaging field. Currently, deep learning has became a dominant methodology for supporting pathologists and radiologist. Deep learning algorithms have been successfully applied to digital pathology and radiology, nevertheless, there are still practical issues that prevent these tools to be widely used in practice. The main obstacles are low number of available cases and large size of images (a.k.a. the small n, large p problem in machine learning), and a very limited access to annotation at a pixel level that can lead to severe overfitting and large computational requirements. We propose to handle these issues by introducing a framework that processes a medical image as a collection of small patches using a single, shared neural network. The final diagnosis is provided by combining scores of individual patches using a permutation-invariant operator (combination). In machine learning community such approach is called a multi-instance learning (MIL).

研究の動機と目的

• 弱い教師付き学習を活用することで、小規模なデータセットと高解像度の医用画像の課題に対処する。
• 限られたピクセルレベルのアノテーションと大きな画像サイズに起因する過学習と計算負荷の問題を克服する。
• 全スライド画像を共有特徴抽出を備えたパッチの集合として処理する、エンドツーエンドで訓練可能なモデルを開発する。
• パッチレベルスコアを集合レベルの診断に統合するための置換不変結合演算子を導入する。
• データ増強と、ノイズありOR、ISR、LSEなどの微分可能演算子を用いることで、一般化性能と診断の妥当性を向上させる。

提案手法

• 全スライド組織画像を重複のない96×96ピクセルのパッチに分割して処理する。
• 畳み込み層および全結合層、ドロップアウトを備えた共有ディープニューラルネットワークを用い、パッチレベルのスコアを抽出する。
• 置換不変演算子（ノイズありOR、ISR、対数和指数）を用いてパッチスコアを統合し、集合レベルの確率を算出する。
• 集合レベルラベルの負の対数尤度を最小化することで、バックプロパゲーションによるエンドツーエンドの訓練を実施する。
• 置換不変演算子の出力を条件とするベルヌーイ分布を用いて、集合ラベルの確率をモデル化する。
• 過学習を軽減するため、H&Eの色調のずれ、ランダムな回転・反転、ガウスぼかしを含む広範なデータ増強を適用する。

実験結果

リサーチクエスチョン

• RQ1 ピクセルレベルのアノテーションが一切ない状態で、全スライドラベルのみを用いてディープラーニングモデルが組織画像を効果的に分類できるか？
• RQ2 ノイズありOR、ISR、LSEといった異なる置換不変演算子は、弱教師付き組織病理学分類においてどのように性能を発揮するか？
• RQ3 微分可能演算子を用いたエンドツーエンド訓練は、小規模データ医療画像認識の文脈で、従来のMIL手法を上回る性能を発揮するか？
• RQ4 データ増強は、リソースが限られた組織病理学分類において、一般化性能をどの程度向上させるか？
• RQ5 パッチベースのディープラーニングフレームワークは、大規模な全スライド画像における過学習と計算コストを軽減できるか？

主な発見

• 提案されたDeepNOR-MILは、テストされたすべてのディープラーニング変種の中で最高の正解率（0.879）とFスコア（0.873）を達成した。
• DeepISR-MILは最高のAUC（0.90）を記錃し、関係性に基づくGPMILベースライン（AUC: 0.90）と同等で、最も優れた性能を示した手法を上回った。
• DeepLSE-MILは精度と再現率がそれぞれ0.833と0.192にとどまり、AUCが0.88と高いにもかかわらず、学習の不安定性が顕著に表れた。
• ノイズありOR演算子は、全指標にわたり最も一貫性のある性能を示し、本タスクに最も適していると示唆された。
• すべてのディープMILモデルはAUCが0.88～0.90の間で推移し、最先端のガウス過程ベースのMIL手法と同等の性能を示した。
• データ増強は、特に限られた学習データとH&E染色の多様性が著しい状況下で、モデルの頑健性を顕著に向上させた。