[論文レビュー] Deep Active Learning for Axon-Myelin Segmentation on Histology Data

Melanie Lubrano di Scandalea, Christian S. Perone+2 more|arXiv (Cornell University)|Jul 11, 2019

Cell Image Analysis Techniques参考文献 12被引用数 17

ひとこと要約

本論文では、ヒストロロジー画像における軸索・ミエリン分類のアノテーション作業を軽減するため、U-Netアーキテクチャ内でのモンテカルロドロップアウトを用いた不確実性推定を組み込んだディープアクティブラーニングフレームワークを提案する。わずか3つの不確実性選択済みサンプルをラベル付けした後、最大のDiceスコアを達成した。これは、ランダムサンプリングでは15サンプルを必要としたのに対し、専門家によるアノテーション作業を著しく削減したことを示しており、小規模で現実世界の生物学的画像データセットにおいて顕著な効果を示している。

ABSTRACT

Semantic segmentation is a crucial task in biomedical image processing, which recent breakthroughs in deep learning have allowed to improve. However, deep learning methods in general are not yet widely used in practice since they require large amount of data for training complex models. This is particularly challenging for biomedical images, because data and ground truths are a scarce resource. Annotation efforts for biomedical images come with a real cost, since experts have to manually label images at pixel-level on samples usually containing many instances of the target anatomy (e.g. in histology samples: neurons, astrocytes, mitochondria, etc.). In this paper we provide a framework for Deep Active Learning applied to a real-world scenario. Our framework relies on the U-Net architecture and overall uncertainty measure to suggest which sample to annotate. It takes advantage of the uncertainty measure obtained by taking Monte Carlo samples while using Dropout regularization scheme. Experiments were done on spinal cord and brain microscopic histology samples to perform a myelin segmentation task. Two realistic small datasets of 14 and 24 images were used, from different acquisition settings (Serial Block-Face Electron Microscopy and Transmitting Electron Microscopy) and showed that our method reached a maximum Dice value after adding 3 uncertainty-selected samples to the initial training set, versus 15 randomly-selected samples, thereby significantly reducing the annotation effort. We focused on a plausible scenario and showed evidence that this straightforward implementation achieves a high segmentation performance with very few labelled samples. We believe our framework may benefit any biomedical researcher willing to obtain fast and accurate image segmentation on their own dataset. The code is freely available at https://github.com/neuropoly/deep-active-learning.

研究の動機と目的

• 生物学的画像分類におけるピクセル単位のラベル付けにかかる高コストな作業を軽減すること、特に希少または複雑な構造（例：軸索やミエリン）に対して特に有効であることを目的とする。
• 限られた正解ラベルを伴う現実世界の小規模なヒストロジー画像データセットにおいて、不確実性に基づくアクティブラーニングの有効性を評価すること。
• わずか数個の高不確実性サンプルを選択することで、大幅に大きなランダムデータセットで学習したモデルと同等の分類性能を達成できることを示すこと。
• 生物学的研究者が自身の顕微鏡画像データに対して、最小限のラベリング作業で利用可能な実用的かつアクセスしやすいフレームワークを提供すること。

提案手法

• モンテカルロドロップアウトを用いて複数回の順伝播計算を通じて予測不確実性を推定する、U-Netに基づくセマンティック分類モデルを訓練する。
• 予測の分散を用いて不確実性を定量化し、特に曖昧な（不確実性の高い）パッチをアノテーション対象として特定する。
• 各新しいバッチのアクティブに選択されたサンプルが訓練セットに追加された後、モデルを再びスクラッチから再訓練する。
• 反復処理全体を通じて一貫した評価を保証するため、固定された訓練・検証・テストパッチの分割をフレームワークが使用する。
• アクティブラーニングループでは、追加の類似性や多様性基準を用いず、不確実性に基づくみだりにサンプルを選択する。
• この手法はAxonDeepSegパイプラインに統合され、コミュニティ利用を目的としてGitHubで公開された。

実験結果

リサーチクエスチョン

• RQ1 不確実性に基づくアクティブラーニングは、軸索・ミエリンのヒストロジー画像データにおいて、高い分類性能に到達するためのアノテーションサンプル数を顕著に削減できるか？
• RQ2 小規模な生物学的画像データセットにおいて、モンテカルロドロップアウトによる不確実性推定は、ランダムサンプリングに比べて収束速度および最終的なDiceスコアで優れているか？
• RQ3 提案されたフレームワークは、異なる取得モダリティ（例：SBEM対TEM）および現実世界のデータセットのばらつきに対しても性能の安定性を維持できるか？
• RQ4 不確実性マップは、モデルの失敗領域を特定し、アノテーション効率を向上させるために、研究者がどの程度活用できるか？

主な発見

• アクティブラーニングフレームワークは、初期訓練セットにわずか3つの不確実性選択済みサンプルを追加した後、最大のDiceスコアに到達した。これは、ランダムサンプリングでは15サンプルを必要としたのに対し、顕著なアノテーション作業の削減を示している。
• 14枚のSBEM画像データセットにおいて、3つのアクティブサンプルでDiceスコア0.89を達成したが、ランダムサンプリングでは15サンプルで0.87に到達したにとどまった。
• 24枚のTEM画像データセットにおいて、3つのアクティブサンプルでDiceスコア0.86を達成したが、ランダムサンプリングでは15サンプルで0.84に到達した。
• 不確実性マップは、特に境界付近や低コントラスト領域でモデルが最も不確実であることを的確に強調しており、標的アノテーションを支援した。
• モンテカルロドロップアウトによる不確実性推定は、実装が簡単かつ有効であったが、著者らはスムーズドブートストラップサンプリングなどの代替不確実性測定法による改善の可能性を指摘している。
• フレームワークは、SBEMおよびTEMの異なるヒストロジー取得方法に対しても強靭性を示し、多様な現実世界のデータセットへの一般化可能性を示した。