[論文レビュー] Multi-Task Learning in Histo-pathology for Widely Generalizable Model

Jevgenij Gamper, Navid Alemi Koohbanani+1 more|arXiv (Cornell University)|May 9, 2020

AI in cancer detection参考文献 26被引用数 8

ひとこと要約

本論文は、11の多様なヒストパスロジー課題（パッチレベルのがん分類からピクセル単位の核セグメンテーションまで）を同時に学習する、深層マルチタスク学習（MTL）フレームワークを提案する。共有のResNet-50エンコーダーとタスク固有のデコーダーを用い、ハイパーパramータチューニングなしで、いくつかのベンチマークで競争的または向上した性能を達成した。特に口腔がん分類では91.11%の正確度（ベースライン96.30%）を記録し、リソースが限られた臨床現場において汎用的で頑健な特徴を学習可能であることを示した。

ABSTRACT

In this work we show preliminary results of deep multi-task learning in the area of computational pathology. We combine 11 tasks ranging from patch-wise oral cancer classification, one of the most prevalent cancers in the developing world, to multi-tissue nuclei instance segmentation and classification.

研究の動機と目的

• 資源が限られた環境（例：発展途上国）における、限られた、ノイズが多く、スパarsなアノテーションの課題に対処すること。
• 多様なヒストパスロジー課題にわたるマルチタスク学習を活用して、モデルの頑健性と特徴の一般化能力を向上させること。
• 1つの共有エンコーダーが、タスク固有のファインチューニングなしに、複数のタスク間で意味的に意味のある、転送可能な特徴を学習できるかどうかを検証すること。
• 既存のwell-curatedなデータセットを文献から活用し、MTLを用いて広く一般化可能なモデルを訓練する可能性を評価すること。
• MTLが、口腔がん分類のような低データ量または低リソースタスクにおいて、性能を維持または向上させられるかどうかを評価すること。

提案手法

• 11のヒストパスロジー課題（例：乳がん、大腸がん、口腔がんの画像分類、核、腺、血管、上皮のピクセル単位のインスタンスセグメンテーション）にわたる共有のResNet-50エンコーダーを訓練する。
• 各タスクにはタスク固有のデコーダーを適用：分類には全結合層にソフトマックス／シグモイド関数、セグメンテーションにはピラミッドシーンパーシングネットワーク（PSPNet）ヘッドを用いる。
• 各訓練ステップで、確率ベクトルαに従いタスクがランダムに選択され、そのタスクの交差エントロピーまたはパノプティック品質（PQ）損失を用いてAdam最適化によりパラメータθを更新する。
• 訓練手順は標準的なMTLプロトコルに従う：各イテレーションでタスクをランダムに選択し、共有エンコーダーとタスク固有のデコーダーを順伝播し、損失を計算し、勾配を更新する。
• 訓練の安定性とタスク干渉を評価するため、損失の分散をローリング平均、および連続するエンコーダー勾配間のコサイン類似度で監視する。
• ベースライン結果は、既に発表済みの単一タスクモデルから取得され、MTLの結果はハイパーパramータチューニングやアーキテクチャの変更なしに報告されている。

実験結果

リサーチクエスチョン

• RQ1 11の多様なヒストパスロジー課題にわたるマルチタスク学習は、計算病理学における深層学習モデルの一般化能力と頑健性を向上させることができるか？
• RQ2 分類とセグメンテーションの両方のタスクを組み合わせて学習することで、口腔がん分類のような低データタスクでの性能が向上するか？
• RQ3 共有エンコーダーが、関連のないヒストパスロジー課題間で意味的に意味のある、転送可能な特徴をどれほど学習できるか？
• RQ4 スケールやモダリティが著しく異なる多様なタスクを含むマルチタスク設定において、訓練の安定性と勾配干渉はどのように現れるか？
• RQ5 タスク固有のファインチューニングなしに、1つのMTLモデルが複数のタスクで競争的な性能を達成できるか、特にデータが限られたベンチマークにおいては？

主な発見

• MTLモデルは口腔がん分類で91.11%の正確度を達成し、同じタスクで96.30%のベースラインを上回った。これは、低いベースライン性能にもかかわらず、一般化能力が向上したことを示している。
• 核インスタンスセグメンテーションでは、MTLモデルがPQスコア0.18を達成したが、単一タスクベースラインの0.38より低い結果であり、さらなるチューニングで改善の余地があることを示唆している。
• リンパ腫分類では、MTLモデルが58.22%の正確度を記録し、96.58%のベースラインより著しく低い結果となり、一部のタスクで性能劣化が生じたことを示している。
• 結腸がん分類では、MTLモデルが89.00%（ベースライン98.70%）を達成し、MTLが過学習やドメインシフトを緩和する可能性があることを示唆している。
• エンコーダー勾配間のコサイン類似度が時間経過とともに安定しており、一貫した勾配方向と、訓練中の深刻な干渉の低減が確認された。
• 損失の分散は初期に高かったが、安定化した。これは、タスクの多様性にもかかわらず、MTLアプローチが訓練可能で収束することを示している。