[論文レビュー] Continual Universal Object Detection

Xialei Liu, Hao Yang+3 more|arXiv (Cornell University)|Feb 13, 2020

Advanced Neural Network Applications参考文献 17被引用数 7

ひとこと要約

本稿では、多様なドメインに跨る順次学習における深刻な忘却を軽減する継続的ユニバーサルオブジェクト検出フレームワークを提案する。ボトムアップおよびトップダウンの注目メカニズムを用いた特徴蒸留と、適応的エグジンプリャ採番を組み合わせることで、3つの挑戦的な継続的学習シナリオにおける7つのオブジェクト検出データセットで優れた性能を達成する。

ABSTRACT

Object detection has improved significantly in recent years on multiple challenging benchmarks. However, most existing detectors are still domain-specific, where the models are trained and tested on a single domain. When adapting these detectors to new domains, they often suffer from catastrophic forgetting of previous knowledge. In this paper, we propose a continual object detector that can learn sequentially from different domains without forgetting. First, we explore learning the object detector continually in different scenarios across various domains and categories. Learning from the analysis, we propose attentive feature distillation leveraging both bottom-up and top-down attentions to mitigate forgetting. It takes advantage of attention to ignore the noisy background information and feature distillation to provide strong supervision. Finally, for the most challenging scenarios, we propose an adaptive exemplar sampling method to leverage exemplars from previous tasks for less forgetting effectively. The experimental results show the excellent performance of our proposed method in three different scenarios across seven different object detection datasets.

研究の動機と目的

• 異なるドメインに跨る順次学習においてオブジェクト検出器の深刻な忘却を解消すること。
• 多様なオブジェクトカテゴリーやドメインに一般化可能なユニバーサル検出フレームワークを構築すること。
• 注目メカニズムとエグジンプリャベースの知識蒸留を活用して、継続的学習における知識保持を向上させること。
• ドメインシフトやコンセプトドリフトを伴う挑戦的な継続的学習シナリオで手法を評価すること。

提案手法

• ボトムアップおよびトップダウンの注目メカニズムを用いて、ノイズの多い背景特徴を抑制し、特徴の知識伝達を強化する注目特徴蒸留を提案する。
• 新しいタスクの学習中に、過去のタスクからの知識を保持するために、特徴蒸留を強力な監督として統合する。
• 過去のタスクから代表的なサンプルを動的に選択する適応的エグジンプリャ採番戦略を導入し、効果的な知識保持を実現する。
• 注目メカニズムを用いて、判別力のある特徴に注目し、関係のないまたはノイズの多い領域からの干渉を低減する。
• タスク固有の再トレーニングが不要な、複数のデータセットおよびドメインに跨る継続的学習をサポートする統合フレームワークを設計する。
• 旧タスクと新タスクの表現間の特徴整合性を向上させるために、二重注目メカニズムを採用する。

実験結果

リサーチクエスチョン

• RQ1 複数のドメインに跨る継続的学習において、深刻な忘却を回避しながらオブジェクト検出器をどのように訓練できるか？
• RQ2 ボトムアップおよびトップダウンの注目メカニズムは、継続的学習における忘却低減にどのような役割を果たすか？
• RQ3 適応的エグジンプリャ採番は、過去のタスクからの知識保持にどの程度効果的か？
• RQ4 統合型検出器は、継続的学習環境において多様なオブジェクトカテゴリーやドメインに一般化できるか？
• RQ5 複数のベンチマークに跨る継続的オブジェクト検出の性能限界は何か？

主な発見

• 提案手法は、3つの継続的学習シナリオにおける7つのオブジェクト検出データセットで最先端の性能を達成する。
• 注目特徴蒸留は、関連する特徴に注目し、背景ノイズを抑制することで、忘却を顕著に低減する。
• 適応的エグジンプリャ採番戦略は、特に困難なドメインシフトシナリオにおいて、知識保持を向上させる。
• すべてのタスクで高いmAPを維持しており、優れた一般化性能と安定性を示している。
• 平均精度および忘却低減の観点で、既存の継続的学習ベースラインを上回る性能を発揮する。
• アブレーションスタディにより、注目メカニズムとエグジンプリャ採番の両方が、性能低下の最小化に有効であることが確認された。