Skip to main content
QUICK REVIEW

[論文レビュー] Deep Active Learning for Joint Classification & Segmentation with Weak Annotator

Soufiane Belharbi, Ismail Ben Ayed|arXiv (Cornell University)|Oct 10, 2020
Machine Learning and Algorithms参考文献 62被引用数 9
ひとこと要約

本論文は、画像レベルのラベルと低予算のオラクルによるピクセルレベルのアノテーションのみを用いて、画像分類とセグメンテーションを同時に実行する深層アクティブラーニングフレームワークを提案する。未ラベルデータからの疑似セグメンテーションを統合し、反復的に情報量の多いサンプルを選択することで、最先端の弱教師あり手法よりも顕著にセグメンテーション精度を向上させ、CUB-200-2011で1クラスあたり1サンプルのみラベル付けした後にも75.29%のDiceスコアを達成した。

ABSTRACT

CNN visualization and interpretation methods, like class-activation maps (CAMs), are typically used to highlight the image regions linked to class predictions. These models allow to simultaneously classify images and extract class-dependent saliency maps, without the need for costly pixel-level annotations. However, they typically yield segmentations with high false-positive rates and, therefore, coarse visualisations, more so when processing challenging images, as encountered in histology. To mitigate this issue, we propose an active learning (AL) framework, which progressively integrates pixel-level annotations during training. Given training data with global image-level labels, our deep weakly-supervised learning model jointly performs supervised image-level classification and active learning for segmentation, integrating pixel annotations by an oracle. Unlike standard AL methods that focus on sample selection, we also leverage large numbers of unlabeled images via pseudo-segmentations (i.e., self-learning at the pixel level), and integrate them with the oracle-annotated samples during training. We report extensive experiments over two challenging benchmarks -- high-resolution medical images (histology GlaS data for colon cancer) and natural images (CUB-200-2011 for bird species). Our results indicate that, by simply using random sample selection, the proposed approach can significantly outperform state-of the-art CAMs and AL methods, with an identical oracle-supervision budget. Our code is publicly available.

研究の動機と目的

  • 挑戦的な医療画像および自然画像データセットにおけるクラスアクティベーションマップ(CAMs)の高い偽陽性率と粗い局在化を是正すること。
  • アクティブラーニングと低予算のオラクルを活用することで、ディープラーニングにおけるピクセルレベルのアノテーションコストを低減すること。
  • トレーニング中に未ラベルデータからの疑似セグメンテーションとオラクルアノテーション済みサンプルを統合することで、セグメンテーション性能を向上させること。
  • 自己学習とアクティブラーニングを組み合わせた際、ランダムなサンプル選択が洗練された取得戦略を上回ることを示すこと。

提案手法

  • フレームワークは弱教師あり畳み込みニューラルネットワーク(CNN)を用い、画像レベルのラベルのみで、画像分類とセグメンテーションを同時に実行する。
  • 不確実性と代表性に基づいてオラクルアノテーションの対象となるサンプルを選択する、新しいアクティブラーニングプロトコルを導入する。同時に、未ラベルデータからの疑似セグメンテーションも活用する。
  • 疑似セグメンテーションは、類似性に基づく戦略により生成され、類似した染色パターンまたはコンテンツを持つk近傍探索によって特定される。
  • モデルの予測を疑似ラベル付きサンプルで正則化するためにペナルティ項(λ)が適用され、一貫性と正確性のバランスが取られる。
  • ラベル付きデータでの学習と、最新のモデル重みを用いた疑似セグメンテーションの改善を交互に繰り返す。
  • 分類用の交差エントロピーと、重み付きDice損失を含む統合損失関数を用いて、エンドツーエンドでモデルを訓練する。

実験結果

リサーチクエスチョン

  • RQ1複雑なサンプル取得戦略に依存せずに、弱教師あり設定において深層アクティブラーニングフレームワークがセグメンテーション精度を向上させられるか?
  • RQ2未ラベルデータからの疑似セグメンテーション統合が、低監視状態の下でモデル性能にどのように影響を与えるか?
  • RQ3自己学習とアクティブラーニングを組み合わせた際、ランダムなサンプル選択が不確実性ベースの選択を上回るか?
  • RQ4ハイパーパrameter λ(正則化)と k(近傍数)に対するこの手法の感度はどの程度か?
  • RQ5特にヒストロロジー画像や細分化された鳥の画像といった挑戦的なデータセットにおいて、最小限のオラクルアノテーションで高いセグメンテーション精度を達成できるか?

主な発見

  • 本手法は、CUB-200-2011データセットで1クラスあたり1サンプルのみラベル付けした後にも75.29%のDiceスコアを達成し、WSLベースライン(40.16%)および他のアクティブラーニング手法を顕著に上回った。
  • ランダムなサンプル選択でさえ、同じオラクル予算下で最先端のCAMおよびアクティブラーニングベースラインを上回った。これは、疑似セグメンテーション統合の有効性を示している。
  • ハイパーパrameter kに対して本手法は頑健であり、25クエリにおけるAUCの標準偏差はわずか0.59にとどまり、異なるk値でも安定した性能を示した。
  • 本手法はλに敏感であり、最適な性能は低い値(CUBではλ = 0.001、GlaSではλ = 0.1)で達成された。これは、高い値がノイズの多い疑似アノテーションからの誤差を拡大するためである。
  • 定性的な結果では、特にヒストロロジー画像において、CAMベース手法と比較してより正確で高解像度のマスクを生成し、偽陽性が少ないことが示された。
  • k近傍探索による類似性メカニズムは、ヒストロロジー画像における染色変動と、鳥の画像における一般的な外観を効果的に捉えており、有効な疑似アノテーションの転送を可能にした。

より良い研究を、今すぐ始めましょう

論文の読解から最終レビューまで、研究時間を劇的に削減しましょう。

クレジットカード登録不要

このレビューはAIが作成し、人間の編集者が確認しました。