[論文レビュー] Relaxed Multiple-Instance SVM with Application to Object Discovery

Xinggang Wang, Zhuotun Zhu+2 more|arXiv (Cornell University)|Oct 5, 2015

Image Retrieval and Classification Techniques参考文献 30被引用数 15

ひとこと要約

本論文では、相対的多重インスタンスSVM（RMI-SVM）を提案する。これは、インスタンスラベルを連続変数として扱い、ノイズありORモデルを用いてMIL制約を強制することで、確率的勾配降下法を用いてバッチラベルとインスタンスラベルの両方を同時に学習できる、新しい凸最適化フレームワークである。この手法は、Pascal VOC 2007における弱教師付きオブジェクト発見において、従来のMIL手法および既存のオブジェクト発見アプローチと比較して、精度と効率の両面で最先端の性能を達成した。

ABSTRACT

Multiple-instance learning (MIL) has served as an important tool for a wide range of vision applications, for instance, image classification, object detection, and visual tracking. In this paper, we propose a novel method to solve the classical MIL problem, named relaxed multiple-instance SVM (RMI-SVM). We treat the positiveness of instance as a continuous variable, use Noisy-OR model to enforce the MIL constraints, and jointly optimize the bag label and instance label in a unified framework. The optimization problem can be efficiently solved using stochastic gradient decent. The extensive experiments demonstrate that RMI-SVM consistently achieves superior performance on various benchmarks for MIL. Moreover, we simply applied RMI-SVM to a challenging vision task, common object discovery. The state-of-the-art results of object discovery on Pascal VOC datasets further confirm the advantages of the proposed method.

研究の動機と目的

• 従来のMIL手法がインスタンス選択とモデル学習を別々の反復的プロセスとして扱うという限界を解消すること。
• 既存のMILアルゴリズムにおけるEMスタイル最適化の非効率性と不安定性を克服すること。
• 統一的で微分可能なフレームワーク内でバッチレベルとインスタンスレベルのラベルを同時に最適化すること。
• 画像レベルラベルのみを用いて、スケーラブルで頑健な弱教師付きオブジェクト発見手法を開発すること。
• 従来手法と比較して著しく学習時間を短縮しつつ、オブジェクト発見で最先端の性能を達成すること。

提案手法

• MILにおける離散的インスタンスラベル制約を連続変数に緩和し、組み合わせ最適化問題を凸最適化問題に変換すること。
• ノイズありOR定式化を用いてMIL制約をモデル化し、少なくとも1つのインスタンスが正例であれば、正例のバッチとみなされるようにすること。
• 線形SVM分類器に緩和項を追加した目的関数を定式化し、誤検出（偽陽性）をペナルティ化することで、バッチラベルとインスタンスラベルを同時に最適化すること。
• 1回の反復で1つのバッチを処理する確率的勾配降下法（SGD）を用いて、計算コストを低減しながら最適化問題を効率的に解くこと。
• オブジェクト候補の生成に深層畳み込みニューラルネットワーク（DCNN）特徴を統合し、Edgeboxを用いて候補領域を生成するオブジェクト発見パイプラインを構築すること。
• ランダム初期化からのオブジェクト位置予測を反復的に改善するために、RMI-SVMフレームワークを繰り返し適用し、画像レベルラベルからの弱教師信号を活用すること。

実験結果

リサーチクエスチョン

• RQ1 従来のEMスタイルMIL手法と比較して、緩和型で凸な定式化が最適化の効率性と性能の両面で向上するか。
• RQ2 SGDによるインスタンスラベルとバッチラベルの同時最適化は、MILにおける別々のインスタンス選択とモデル学習のプロセスと比較して、どのように優れているか。
• RQ3 Pascal VOC 2007のような弱教師付きベンチマークにおいて、RMI-SVMはどの程度オブジェクト発見性能を向上させられるか。
• RQ4 ノイズありORモデルは、背景のゴミや偽陽性に対して耐性を保ちつつ、MIL制約を効果的に強制できるか。
• RQ5 従来のmiSVMや他のEMベースMILアルゴリズムと比較して、RMI-SVMの学習速度と収束性はどの程度優れているか。

主な発見

• RMI-SVMはPascal VOC 2006-allで53%、Pascal VOC 2007-allで37%のCorLocスコアを達成し、miSVM（それぞれ30%と20%）を著しく上回った。
• Pascal VOC 2007-allでは学習時間を854秒にまで短縮し、miSVMの4300秒と比較して5倍速くなった。
• RMI-SVMは初期化に依存しにくく、候補数が少ない状況でも優れた一般化性能を示した。
• ノイズありORモデルは偽陽性を効果的にペナルティ化し、真のオブジェクト候補と背景ウィンドウをよりよく分離できた。
• 特に100未満の候補数のとき、Edgebox単体よりも有効な弱教師信号学習により、検出性能が向上した。
• この手法はオブジェクト発見をはるかに超えて汎用性を示し、視覚追跡、画像分類、部品ベースのオブジェクト検出への応用が期待できる。