[論文レビュー] Towards continuous learning for glioma segmentation with elastic weight consolidation

Karin van Garderen, Sebastian R. van der Voort+3 more|arXiv (Cornell University)|Sep 25, 2019

Domain Adaptation and Few-Shot Learning参考文献 4被引用数 12

ひとこと要約

本研究では、深層学習を用いた連続的な膠腫画像分類における深刻な忘却を軽減するため、エラスティックウェイトコンソリデーション（EWC）を評価する。BraTSで事前学習したのちに、独自の低悪性度膠腫データセットで微調整する際、EWCを適用することで元のデータセットにおける忘却が軽減されたが、新しいドメインへの適応は限定的であった。これは、医療画像分類における安定性と柔軟性の間のトレードオフを示している。

ABSTRACT

When finetuning a convolutional neural network (CNN) on data from a new domain, catastrophic forgetting will reduce performance on the original training data. Elastic Weight Consolidation (EWC) is a recent technique to prevent this, which we evaluated while training and re-training a CNN to segment glioma on two different datasets. The network was trained on the public BraTS dataset and finetuned on an in-house dataset with non-enhancing low-grade glioma. EWC was found to decrease catastrophic forgetting in this case, but was also found to restrict adaptation to the new domain.

研究の動機と目的

• 異なるドメインからの新しい医療画像データに対して再訓練する際、深層学習モデルにおける深刻な忘却を解消すること。
• 元の学習データにアクセスできない状況下でも、エラスティックウェイトコンソリデーション（EWC）が連続的学習を可能にするかを調査すること。
• ドメインシフトの状況下で、EWCを用いた微調整と統合学習、ドメイン特化型学習を比較すること。
• EWCが、ソース（BraTS）およびターゲット（自社内）の膠腫データセットにおいて、性能の安定性に与える影響を評価すること。

提案手法

• 3D U-Netを用い、パディングなしの畳み込みを適用し、ソースドメインのBraTSデータセットで学習し、ターゲットドメインの自社内非強化型低悪性度膠腫データセットで微調整した。
• 微調整の際、Fisher情報に基づき重要な重みを保持するため、パラメータ固有のペナルティを損失関数に追加することでEWCを適用した。
• EWCペナルティには重み係数10および100を用い、両ドメインのホールドアウトテストセット上で性能を評価した。
• 両ドメインのデータはコアジグレーション処理を行い、頭蓋骨を除去し、1 mm³の等方的ボクセルに再サンプリングし、平均が0、分散が1に強度正規化した。
• 学習用に、108³のパッチと20³の正解セグメンテーションを含むパッチをランダムに抽出し、各ドメインで順次50エポック分学習した。
• 結果の信頼性を確保するため、2つの異なるランダムなデータ分割を用いて実験を繰り返した。

実験結果

リサーチクエスチョン

• RQ1 EWCは、新しいドメインシフトが生じるデータセットで膠腫画像分類モデルを微調整する際、深刻な忘却を効果的に軽減できるか？
• RQ2 標準的な微調整と比較して、EWCはモデルの新しいターゲットドメインへの適応能力にどのように影響するか？
• RQ3 両ドメインのデータを同時に学習する統合学習は、EWCを用いた順次学習や、EWCなしの順次学習を上回る性能を示すか？
• RQ4 この医療画像処理設定において、安定性と柔軟性のバランスを取るために最適なEWC重み係数は何か？

主な発見

• EWCはBraTSソースデータセットにおける深刻な忘却を顕著に軽減し、DiceスコアをEWCなしの68％からEWC重み10の78％に向上させた。
• 忘却の軽減は達成されたが、EWCはターゲットドメインへの適応を制限しており、DiceスコアはEWC 100で72％（EWCなしでは73％）に低下した。
• ターゲットドメイン単体での学習は、統合学習（67％）よりも優れた性能（71–74％のDice）を示し、ドメイン特化型の適応が統合学習よりも効果的であることを示している。
• BraTSで事前学習したモデルをEWCで微調整した場合、両ドメインを同時に学習した場合よりもソースドメインでの性能が優れていた。これは、EWCが安定性を向上させることを示唆している。
• ターゲットドメインでの性能が低い原因は、腫瘍のサイズが小さく、画像品質が低いことによるものであり、これがEWCの正則化効果の悪影響を顕著にした可能性がある。
• EWC重みを10から100に増加させたことで、ターゲットドメインの性能は72％から72％に低下し、一方でソースドメインの性能は78％から73％に向上した。これは、安定性と柔軟性の間のトレードオフを示している。