[論文レビュー] Incremental Learning for Multi-organ Segmentation with Partially Labeled Datasets

Pengbo Liu, Li Xiao+1 more|arXiv (Cornell University)|Mar 8, 2021

Domain Adaptation and Few-Shot Learning参考文献 27被引用数 5

ひとこと要約

本論文は、順次構築された部分的にラベル付けされた医療画像データセットを用いた、多臓器セグメンテーションのための新規インクリメンタルラーニング（IL）フレームワークを提案する。分布のシフトを崩壊的忘却の根本的原因とみなすことで、信頼度ベースの補正損失（CORR）を導入し、最小限の忘却で最先端の性能を達成した。解剖学的構造の一貫性のおかげで、ILは医療画像セグメンテーションにおいて強く適していることが示された。

ABSTRACT

There exists a large number of datasets for organ segmentation, which are partially annotated, and sequentially constructed. A typical dataset is constructed at a certain time by curating medical images and annotating the organs of interest. In other words, new datasets with annotations of new organ categories are built over time. To unleash the potential behind these partially labeled, sequentially-constructed datasets, we propose to learn a multi-organ segmentation model through incremental learning (IL). In each IL stage, we lose access to the previous annotations, whose knowledge is assumingly captured by the current model, and gain the access to a new dataset with annotations of new organ categories, from which we learn to update the organ segmentation model to include the new organs. We give the first attempt to conjecture that the different distribution is the key reason for 'catastrophic forgetting' that commonly exists in IL methods, and verify that IL has the natural adaptability to medical image scenarios. Extensive experiments on five open-sourced datasets are conducted to prove the effectiveness of our method and the conjecture mentioned above.

研究の動機と目的

• 順次構築された部分的にラベル付けされた医療画像データセットを、再訓練を伴わずに効率的に活用する課題に対処すること。
• 人間の臓器に内在する解剖学的一貫性を鑑み、インクリメンタルラーニング（IL）が多臓器セグメンテーションに実用的であるかどうかを調査すること。
• インクリメンタルラーニングの各段階間で生じる分布シフトが、医療画像セグメンテーションにおける崩壊的忘却の主な原因であるかどうかを特定・検証すること。
• ラベル付けが不一致なデータセット（例：肝臓が前景と背景で異なる）に起因する「知識の衝突」を解消することで、ILの性能を向上させること。
• 全データを一度にアクセスできない状況下でも、各段階間でモデルパラメータのみを共有することで、フル再訓練の代替手段としてスケーラブルで効率的かつ倫理的な手法を開発すること。

提案手法

• 各段階で新たな臓器カテゴリを含む新しいデータセットが逐次処理される段階的インクリメンタルラーニングフレームワークを採用。初期学習後は、過去のデータにアクセスできない。
• 以前に学習した臓器の性能を維持するために知識蒸留損失が適用されるが、これは各段階間でデータ分布が一貫しているという仮定に基づく。
• 提案されたCORR損失は、トレーニング中に低信頼度予測を除去することで、誤検出を低減し、ハウスドルフ距離指標を改善する。
• 損失関数におけるバックグラウンドの再定義を通じて、古くからのカテゴリと新しいカテゴリを明示的にモデル化し、「知識の衝突」を解消する。
• 交差エントロピー損失、知識蒸留、およびCORR損失の組み合わせにより、新規臓器の学習と旧来知識の保持の両立を図るエンドツーエンドの訓練を実施。
• 本手法は、5つのオープンソースで部分的にラベル付けされたデータセットを用いて検証され、時間の経過に伴う現実のデータ蓄積を模擬した。

実験結果

リサーチクエスチョン

• RQ1 部分的にラベル付けされた、順次取得されたデータセットを用いた場合、インクリメンタルラーニングが多臓器セグメンテーションにおける崩壊的忘却を効果的に軽減できるか？
• RQ2 インクリメンタルラーニングの各段階間で生じる分布シフトが、医療画像セグメンテーションにおける性能低下の主な原因であるか？
• RQ3 ラベル付けが不一致なデータセット（例：1つのデータセットで肝臓が前景、別のデータセットで背景）に起因する「知識の衝突」を解消することで、ILの性能が向上するか？
• RQ4 低信頼度予測をフィルタリングするCORR損失が、セグメンテーションの精度と頑健性にどのように影響するか？
• RQ5 全データを一度にアクセスできない状況下でも、インクリメンタルラーニングが、すべてのデータを一度に使用した完全教師あり学習の性能に近い結果を達成できるか？

主な発見

• 知識蒸留とバックグラウンドに配慮した損失再重み付けを組み合わせたMiBOrgan手法は、LwFおよびILTと比較してHD95指標で9%の向上を達成し、誤検出の低減が示された。
• CORR損失を追加すると、Dice係数は0.1%低下するが、HD95指標は9%向上する。これは、高距離誤差の低減に有効であることを示している。
• 以前に学習した臓器において顕著な忘却が見られず、医療画像の解剖学的一貫性がIL段階間での分布安定性を維持しているという仮説を支持する。
• 旧来カテゴリと新規カテゴリの両方を考慮した場合、標準的なファインチューニング（FT）よりも性能が一貫して優れている。これは、知識の保持が効果的であることを示している。
• 全データを一度にアクセスできないにもかかわらず、MiBOrgan手法は、すべてのデータを一度に使用した完全教師あり学習の上限性能（例：MargExc MIA）に近く達成した。
• 結果から、分布シフトがILにおける崩壊的忘却の主因であることが確認され、医療画像分野の解剖学的一貫性のおかげで、ILが自然にこの分野に適応可能であることが示された。