[論文レビュー] ALBA : Reinforcement Learning for Video Object Segmentation

Shreyank N Gowda, Panagiotis Eustratiadis+2 more|arXiv (Cornell University)|May 26, 2020

Visual Attention and Saliency Detection参考文献 29被引用数 9

ひとこと要約

ALBAは、オブジェクト候補の空間的・時間的集合化問題として扱うことで、強化学習に基づくフレームワークを提案し、ゼロショット動画オブジェクトセグメンテーションを実現する。関係性ネットワークに時間的記憶を組み合わせることで、非短視的でグローバルに最適な集合化意思決定が可能となり、IoUベースの指標を直接最適化することで、最先端の性能を達成。DAVIS 2017では最大5.5%の向上を示し、FBMSおよびYouTube-VOSでも顕著な向上を示した。

ABSTRACT

We consider the challenging problem of zero-shot video object segmentation (VOS). That is, segmenting and tracking multiple moving objects within a video fully automatically, without any manual initialization. We treat this as a grouping problem by exploiting object proposals and making a joint inference about grouping over both space and time. We propose a network architecture for tractably performing proposal selection and joint grouping. Crucially, we then show how to train this network with reinforcement learning so that it learns to perform the optimal non-myopic sequence of grouping decisions to segment the whole video. Unlike standard supervised techniques, this also enables us to directly optimize for the non-differentiable overlap-based metrics used to evaluate VOS. We show that the proposed method, which we call ALBA outperforms the previous stateof-the-art on three benchmarks: DAVIS 2017 [2], FBMS [20] and Youtube-VOS [27].

研究の動機と目的

• 手動の初期化なしにゼロショット動画オブジェクトセグメンテーション（VOS）の課題に取り組む。
• IoUなどの微分不可能な指標を最適化する際に生じる、教師あり学習の制限（露出バイアスや最適でない最適化）を克服する。
• 強化学習を用いて、時間的・空間的領域全体にわたるグローバルに最適で非短視的な集合化意思決定を実現する手法を開発する。
• 重なりベースの評価指標（J&F、J-Mean、F-Mean）を直接最適化するエンドツーエンドの学習を可能にする。
• 光学フローと再帰的関係性推論を統合することで、セグメンテーションの時間的・空間的整合性を向上させる。

提案手法

• ALBAは、オブジェクト候補、光学フロー、外観特徴を用いて、空間的・時間的領域における候補選択と共同集合化問題としてVOSを定式化する。
• 関係性ニューラルネットワークが、候補と既存のグループ間のペアワイズ関係を計算し、動的で再帰的なラベル割り当てを可能にする。
• 時間的整合性は、記憶メカニズムを通じて、前のフレームのグループ化結果と光学フローを意思決定ネットワークに統合することで強制される。
• 強化学習を用いて割り当て方策を学習し、最終的なセグメンテーション品質を最適化するための密集報酬（IoUベース）を用いる。
• 方策は、全動画シーケンスにわたる期待累積報酬を最大化するようにポリシー勾配法で訓練され、非短視的意思決定を可能にする。
• エントロピー正則化を用いた探索戦略により、訓練中に多様で頑健な集合化行動を促進する。

実験結果

リサーチクエスチョン

• RQ1 強化学習を効果的に応用することで、グリーディで教師ありのアプローチを凌駕するような、グローバルな意思決定を向上させられるか？
• RQ2 非短視的方策を強化学習で学習することで、微分不可能な指標（例：IoU）を最適化する際、グリーディで教師ありのベースラインを上回ることができるか？
• RQ3 関係性集合化ネットワークに時間的記憶と光学フローを統合することで、フレーム間のセグメンテーション整合性が向上するか？
• RQ4 候補集合に基づく統合フレームワークが、DAVIS 2017、FBMS、YouTube-VOSといった多様なベンチマークで最先端の性能を達成できるか？
• RQ5 VOSにおいて、標準的なピxls単位の交差エントロピー監視よりも、RLを用いたJ&F指標の直接最適化が効果的か？

主な発見

• DAVIS 2017の検証セットにおいて、ALBAはJ&F-Meanスコア58.4を達成し、前回のSOTAを5.5ポイント上回った。
• FBMSデータセットでは、J-Meanが77.6、Fスコアが84.4を記録し、AGS や RVOS を含むすべての先行手法を上回った。
• YouTube-VOSでは、J-seenが53.8、J-unseenが34.4を達成し、未学習のオブジェクトクラスへの一般化能力が顕著に優れていた。
• アブレーションスタディにより、教師ありベースラインに比べてRL学習のみで5.5%の性能向上が確認され、非短視的最適化の利点が明確になった。
• 定性的な結果から、ALBAは混雑したブレイクダンスや自転車走行のシーケンスといった複雑なシーンを効果的に処理し、ノイズの多い候補を正しくクリーニングしていることが示された。
• 運動の類似性、意味的多様性、ドメインシフトといった多様な課題を有するデータセットにおいて、ALBAの性能は安定しており、頑健であった。