[論文レビュー] Cost-efficient segmentation of electron microscopy images using active learning

Joris Roels, Yvan Saeys|arXiv (Cornell University)|Nov 13, 2019

Machine Learning and Algorithms参考文献 15被引用数 8

ひとこと要約

本論文では、電子顕微鏡画像分類におけるラベル付け作業の負担を著しく軽減するために、不確実性サンプリング（特にエントロピー最大と最小信頼度）を用いたアクティブラーニングの適用を提案する。繰り返し繰り返し、情報量が最も高いサンプルを注釈付けることで、わずか数百分の1のラベル付き画像で、完全に教師あり学習に近い性能に到達する。

ABSTRACT

Over the last decade, electron microscopy has improved up to a point that generating high quality gigavoxel sized datasets only requires a few hours. Automated image analysis, particularly image segmentation, however, has not evolved at the same pace. Even though state-of-the-art methods such as U-Net and DeepLab have improved segmentation performance substantially, the required amount of labels remains too expensive. Active learning is the subfield in machine learning that aims to mitigate this burden by selecting the samples that require labeling in a smart way. Many techniques have been proposed, particularly for image classification, to increase the steepness of learning curves. In this work, we extend these techniques to deep CNN based image segmentation. Our experiments on three different electron microscopy datasets show that active learning can improve segmentation quality by 10 to 15% in terms of Jaccard score compared to standard randomized sampling.

研究の動機と目的

• 生体医療分類における電子顕微鏡（EM）画像の注釈付きデータの高コストと不足問題に対処する。
• U-Netのようなディープラーニングモデルの学習に、大規模で完全に注釈されたデータセットへの依存を減らす。
• 知的なサンプル選択により、人間のラベル付け作業の負担を最小限に抑えながら、高い分類性能を維持する。
• EM画像におけるセマンティック分類のための複数のアクティブラーニング戦略を評価・比較する。
• 不確実性に基づくサンプリングが、最小限のラベルデータで完全に教師あり学習に近い性能を達成できることを実証する。

提案手法

• U-Netベースの深層ニューラルネットワークを用いて、画像分類に5つのアクティブラーニング戦略（エントロピー最大、最小信頼度、ベイジアンアクティブラーニングの不一致度（BALD）、k-meansサンプリング、コアセット）を適用する。
• 分類モデルのピクセル単位の予測確率を用いて、未ラベル付き画像の不確実性スコアを計算する。
• 各アクティブラーニングの反復処理において、最も不確実性の高いサンプル（例：エントロピーが最大、信頼度が最小）を人間による注釈対象として選択する。
• 各反復後に、固定学習率5e−4を用いて200エポック分、ラベル付きデータセットを拡張して分類モデルを再訓練する。
• 各反復後にバリデーションセットでJaccardスコア（IoU）を評価し、学習曲線の勾配の急峻さを追跡する。
• 25回の反復で固定の500サンプルプールを用い、初期ラベル付きサンプルを20個から開始することで、現実的なラベル付けワークフローを模擬する。

実験結果

リサーチクエスチョン

• RQ1 アクティブラーニングは、性能を損なわせることなく、EM画像分類における注釈の必要数を削減できるか？
• RQ2 エントロピー最大、最小信頼度、BALD、k-means、コアセットのうち、どのアクティブラーニング戦略がEM分類において最も急勾配の学習曲線を示すか？
• RQ3 低ラベル予算下での不確実性ベースのサンプリングとランダムサンプリングの間で、Jaccardスコアの性能はどのように異なるか？
• RQ4 不確実性ベースの基準によって選択される画像の種類は何か？また、モデルの不確実性は時間経過とともにどのように変化するか？
• RQ5 探索と不確実性の両方を組み合わせたハイブリッド手法は、現在の最先端のアクティブラーニング手法を上回る性能を達成できるか？

主な発見

• エントロピー最大と最小信頼度のサンプリングにより、ランダムサンプリングと比較してJaccardスコアが10–15%向上し、わずか数百分の1のラベル付きサンプルで実現した。
• エントロピー最大法は、EPFLデータセットで120個のラベル付きサンプルでJaccardスコア0.813を達成し、完全に教師あり学習（0.857）に近づいた。
• BALDおよび最小信頼度サンプリングは、ランダムおよびk-meansサンプリングを上回ったが、BALDは高い計算コストにもかかわらず優れた性能を示した。
• k-meansサンプリングは、不確実性に基づく優先順位付けが不十分なため、ランダムサンプリングよりも劣った性能を示した。
• コアセットアクティブラーニングは、ランダムサンプリングと同等またはわずかに優れた性能を示したが、より良い特徴表現の埋め込みを用いることで改善可能であった。
• 時間経過とともに、モデルはより困難で不確実性の高いサンプルを選択した。不確実性マップからは、高い不確実性がしばしばモデルの誤りと一致しており、探索と不確実性のトレードオフを浮き彫りにした。