[論文レビュー] Learning Domain Adaptive Object Detection with Probabilistic Teacher

Meilin Chen, Weijie Chen+9 more|arXiv (Cornell University)|Jun 13, 2022

Domain Adaptation and Few-Shot Learning被引用数 33

ひとこと要約

PTはしきい値なしの、不確実性を指針とした自己学習フレームワークを、unsupervised domain adaptive object detection のために導入します。確率的Faster-RCNNと進化する probabilistic teacher を用いて、分類、局在化、および anchors を共同で適応させ、エントロピー焦点損失を用いて低エントロピーの疑似ボックスを強調し、最先端の結果を達成します。

ABSTRACT

Self-training for unsupervised domain adaptive object detection is a challenging task, of which the performance depends heavily on the quality of pseudo boxes. Despite the promising results, prior works have largely overlooked the uncertainty of pseudo boxes during self-training. In this paper, we present a simple yet effective framework, termed as Probabilistic Teacher (PT), which aims to capture the uncertainty of unlabeled target data from a gradually evolving teacher and guides the learning of a student in a mutually beneficial manner. Specifically, we propose to leverage the uncertainty-guided consistency training to promote classification adaptation and localization adaptation, rather than filtering pseudo boxes via an elaborate confidence threshold. In addition, we conduct anchor adaptation in parallel with localization adaptation, since anchor can be regarded as a learnable parameter. Together with this framework, we also present a novel Entropy Focal Loss (EFL) to further facilitate the uncertainty-guided self-training. Equipped with EFL, PT outperforms all previous baselines by a large margin and achieve new state-of-the-arts.

研究の動機と目的

• 天候、スケール、カメラ、合成-実データの転送など、ドメインシフト下での物体検出に対する堅牢な unsupervised domain adaptation を動機づける。
• 疑似ボックスの不確実性を分類と局在化の双方に活用する、しきい値ゼロの自己学習フレームワークを開発する。
• 確率的検出器アーキテクチャにおいて、分類、局在化、そして anchor adaptation を統合する。
• 信頼度閾値なしで疑似ラベルの品質を向上させるトレーニング戦略（Entropy Focal Loss、シャープニング、EMA teacher updates）を提案する。

提案手法

• Faster-RCNN を Probabilistic Faster-RCNN に変換し、各 bbox 座標をガウス分布として、各クラスを確率分布としてモデリングする。
• unlabeled target data から不確実性を帯びた疑似ボックスを生成するために probabilistic teacher を使用する。
• RPNとROI heads 全体にわたり、不確実性指向の整合性損失を用いて分類と回帰の両方を学習する。
• EMA を介した anchor adaptation を取り入れ、アンカーの形状をターゲット bbox 分布に合わせて調整する。
• Entropy Focal Loss を導入し、分類と局在化の両方で低エントロピー（ノイズが少ない）疑似ボックスを強調する。

実験結果

リサーチクエスチョン

• RQ1 信頼度閾値なしで、疑似ボックスの不確実性をどのように活用して UDA-OD を改善できるか？
• RQ2 確率的 teacher-student フレームワークは、分類、局在化、アンカーを跨ぐドメイン間で共同適応できるか？
• RQ3 Entropy-guided self-training (EFL) はクロスドメイン検出性能をさらに向上させるか？
• RQ4 UDA-OD の自己学習を強化する上で、強力なデータ拡張と intra-domain alignment の役割は？
• RQ5 このアプローチは source-free UDA-OD セッティングにどのように拡張されるか？

主な発見

• Probabilistic Teacher フレームワークは、複数の source-based および source-free UDA-OD ベンチマークで最先端の結果を達成する。
• Anchor adaptation と Entropy Focal Loss は、さまざまなドメインシフトに対して性能向上に寄与する。
• 強力なデータ拡張は自己学習を大幅に向上させ、従来のドメイン整列手法よりも効果が大きい。
• PT を source-free 設定に拡張すると、ベースラインよりも大幅な改善をもたらす。
• 確率的検出器の使用は、vanilla Faster-RCNN ベースラインと比較して局在化の不確実性処理を改善する。