[論文レビュー] Active learning with version spaces for object detection

Soumya Roy, Vinay P. Namboodiri+1 more|arXiv (Cornell University)|Nov 22, 2016

Machine Learning and Algorithms参考文献 55被引用数 4

ひとこと要約

この論文は、オブジェクト検出のためのバージョンスペースに基づくアクティブラーニング手法を提案し、注釈に最も情報を与える画像を選択することで、ラベル付け作業を顕著に削減する。オブジェクト検出を「特徴量の差分」空間における構造的回帰問題としてモデル化することで、完全な教師あり学習の20%のデータのみを用いても95%以上の完全教師あり学習の局所化精度を達成し、エントロピーとマージンサンプリングといった不確実性に基づくベースラインを上回る性能を示す。

ABSTRACT

Given an image, we would like to learn to detect objects belonging to particular object categories. Common object detection methods train on large annotated datasets which are annotated in terms of bounding boxes that contain the object of interest. Previous works on object detection model the problem as a structured regression problem which ranks the correct bounding boxes more than the background ones. In this paper we develop algorithms which actively obtain annotations from human annotators for a small set of images, instead of all images, thereby reducing the annotation effort. Towards this goal, we make the following contributions: 1. We develop a principled version space based active learning method that solves for object detection as a structured prediction problem in a weakly supervised setting 2. We also propose two variants of the margin sampling strategy 3. We analyse the results on standard object detection benchmarks that show that with only 20% of the data we can obtain more than 95% of the localization accuracy of full supervision. Our methods outperform random sampling and the classical uncertainty-based active learning algorithms like entropy

研究の動機と目的

• 人間によるラベル付けに最も情報を与える画像のみを選択することで、オブジェクト検出における注釈コストを低減すること。
• オブジェクト検出のような構造的予測タスクにおける原理的で整合性のあるアクティブラーニング手法の不足を解消すること。
• 不確実性に基づく手法に一般的に見られるサンプリングバイアスを回避する理論的根拠に基づいたアクティブラーニングフレームワークを開発すること。
• 高影響力の画像を特定することで、教師あり微調整に適した効率的な半教師ありオブジェクト検出を可能にすること。
• バージョンスペースに基づくクエリが、最小限のラベルデータで一般化性能と局所化精度を向上させることを実証すること。

提案手法

• 構造的サポートベクターマシン（SSVM）を用いて、オブジェクト検出を構造的回帰問題としてモデル化すること。
• 各画像の候補ボクセル境界を特徴量ベクトルの差分として表現することで、バージョンスペース表現を可能にすること。
• [38]で提示されたバージョンスペースアクティブラーニングフレームワークを、構造的予測に適応するための「特徴量の差分」空間に適用すること。
• バージョンスペースの不確実性を最大限に低減する2つの新しいマージンサンプリング変種（APTおよびOPT）を設計すること。
• バージョンスペースのサイズを最も顕著に小さくする画像を選択するクエリ関数を用い、高い情報量の獲得を保証すること。
• Caffeベースの特徴量と統合し、深層学習パイプラインと互換性があることを実証すること。

実験結果

リサーチクエスチョン

• RQ1 バージョンスペースに基づくアクティブラーニングは、オブジェクト検出のような構造的予測問題に効果的に適応可能か？
• RQ2 エントロピーとマージンサンプリングといった不確実性に基づく手法と比較して、バージョンスペースアクティブラーニングはオブジェクト検出においてどのように性能を発揮するか？
• RQ3 アクティブラーニングは、高い検出精度を維持しつつ、どの程度注釈作業を削減可能か？
• RQ4 クエリ戦略の影響は、収束速度および外れ値に対するロバストネスにどのように現れるか？
• RQ5 提案手法は、深層特徴量および半教師あり学習フレームワークと統合可能か？

主な発見

• APT手法は、PASCAL VOC2007で完全教師あり学習の20%のデータのみを用いても、95%以上の局所化精度を達成した。
• 'motorbike' や 'bicycle' のようなクラスでは、APTが完全教師あり学習の性能を上回った。これは、優れた一般化性能と高品質なクエリ選択を示している。
• 'chair' や 'bottle' のような困難なクラスでは、APTの平均精度が87%を維持し、エントロピー（89.4%）とマージンサンプリング（87.4%）を平均的に上回った。
• クエリ順序における緑枠の画像（影響力のある画像）は顕著な精度向上をもたらしたが、赤枠の画像（外れ値）は精度低下を引き起こした。これは、本手法がデータ品質に敏感であることを示している。
• エントロピー、マージンサンプリング、MSMといったベースライン手法よりも、特に低データ環境下で優れた性能を示した。
• より容易なTU Graz-02データセットでは、すべての手法が10%のデータで完全教師あり学習の90%以上の精度を達成したが、APTは多様な設定においても競争力があり、ロバストであった。