[論文レビュー] Re-examining Distillation For Continual Object Detection

Eli Verwimp, Kuo Yang+6 more|arXiv (Cornell University)|Apr 4, 2022

Adversarial Robustness in Machine Learning被引用数 5

ひとこと要約

本稿では、Faster-ILOD のような自己蒸留ベースの継続的オブジェクト検出手法が、過剰に自信を持った誤った教師予測のため、主に分類ヘッドで深刻な忘却を起こしていることを特定している。本稿では、誤った教師出力をフィルタリングするためのグランドトゥルースバウンディングボックスを用いた選択的蒸留と、標準的な平均二乗誤差（MSE）の代わりにロバストなHuber損失を導入することで、VOCおよびCOCOベンチマークで最先端の性能を達成し、mAPを最大3.8ポイント向上させた。

ABSTRACT

Training models continually to detect and classify objects, from new classes and new domains, remains an open problem. In this work, we conduct a thorough analysis of why and how object detection models forget catastrophically. We focus on distillation-based approaches in two-stage networks; the most-common strategy employed in contemporary continual object detection work.Distillation aims to transfer the knowledge of a model trained on previous tasks -- the teacher -- to a new model -- the student -- while it learns the new task. We show that this works well for the region proposal network, but that wrong, yet overly confident teacher predictions prevent student models from effective learning of the classification head. Our analysis provides a foundation that allows us to propose improvements for existing techniques by detecting incorrect teacher predictions, based on current ground-truth labels, and by employing an adaptive Huber loss as opposed to the mean squared error for the distillation loss in the classification heads. We evidence that our strategy works not only in a class incremental setting, but also in domain incremental settings, which constitute a realistic context, likely to be the setting of representative real-world problems.

研究の動機と目的

• 自己蒸留ベースの継続的オブジェクト検出モデルがなぜ以前の知識を著しく忘却するのかを分析すること。
• 自己蒸留を用いた継続的学習において、特に分類ヘッドでの忘却の根本的原因を調査すること。
• 誤ったが自信のある教師予測に依存する既存の蒸留技術の限界を特定すること。
• 誤った教師出力からの干渉を最小限に抑えつつ、知識伝達を向上させる改善策を提案すること。
• リハーサル記憶を必要とせずに、クラスインクリメンタルな継続的オブジェクト検出で最先端の性能を達成すること。

提案手法

• タスク固有のバウンディングボックスアノテーションを用いて、分類ヘッドにおける誤った教師予測を検出し、その重みを低下させる選択的蒸留を提案する。
• 標準的な平均二乗誤差（MSE）蒸留損失の代わりに、ノイズや誤った教師出力に対してロバストな適応的Huber損失を導入する。
• 最先端の自己蒸留ベース継続的オブジェクト検出手法であるFaster-ILODフレームワークに、変更を加えた蒸留損失を統合する。
• 学生モデルを、新しいタスクのグランドトゥルースラベルと、教師モデルからの補正済み蒸留信号の両方を用いて学習する。
• 特に忘却が深刻な分類ヘッドに焦点を当て、2段階オブジェクト検出器において、エンドツーエンドで本手法を適用する。
• 複数のタスクシーケンスを想定したクラスインクリメンタル設定下で、VOCおよびCOCOを含む標準ベンチマークで本手法を評価する。

実験結果

リサーチクエスチョン

• RQ1 なぜ自己蒸留ベースの継続的オブジェクト検出モデルは、特に分類ヘッドで深刻な忘却を経験するのか？
• RQ2 自信はあるが誤った教師予測が、蒸留中の学生モデル学習にどのように悪影響を及えるのか？
• RQ3 誤った教師予測をフィルタリングすることで、知識伝達の向上と忘却の低減にどの程度寄与できるのか？
• RQ4 蒸留損失において平均二乗誤差（MSE）をHuber損失に置き換えることで、継続的オブジェクト検出におけるロバスト性と性能が向上するのか？
• RQ5 提案された修正が、リハーサル記憶に依存せずして最先端の性能を達成できるのか？

主な発見

• 本手法は、VOC 10+10ベンチマークでmAPを3.4ポイント向上、15+5では1.6ポイント、19+1では3.8ポイント向上させ、Faster-ILODおよびORE や Meta といったSOTA手法を上回った。
• COCO 40+40では、mAPが26.4（AP）、44.3（AP50）、27.4（AP75）を達成し、リハーサルを用いない状況でFaster-ILOD や Meta を上回った。
• アブレーションスタディにより、選択的蒸留とHuber損失の両方が独立して性能向上をもたらすことが確認され、両者の組み合わせがVOC10+10で最も優れた結果をもたらした。
• Faster-ILODと比較して、2番目のタスクにおける分類エラー数はほぼ半減したが、1番目のタスクの性能は98％を維持した。
• グランドトゥルースバウンディングボックスを用いて誤った教師予測をフィルタリングすることで、本手法は分類ヘッドにおける忘却を効果的に軽減した。
• 複数のデータセットおよびベンチマークにおいて一貫した向上が得られ、提案手法の一般化可能性を示した。