[論文レビュー] A Strong and Reproducible Object Detector with Only Public Datasets

Tianhe Ren, Jianwei Yang+7 more|arXiv (Cornell University)|Apr 25, 2023

Advanced Neural Network Applications被引用数 4

ひとこと要約

本論文は、Focal-Stable-DINOを提案する。これは、公開データセットのみを用い、テスト時増強を一切用いず、COCO val2017で64.6 AP、COCO test-devで64.8 APを達成する強力で完全に再現可能なオブジェクト検出モデルである。FocalNet-HugeバックボーンとStable-DINO検出器を組み合わせ、ImageNet-22KおよびObjects365のみを用いた事前学習により、プライベートデータや複雑な訓練技術を一切避ける。

ABSTRACT

This work presents Focal-Stable-DINO, a strong and reproducible object detection model which achieves 64.6 AP on COCO val2017 and 64.8 AP on COCO test-dev using only 700M parameters without any test time augmentation. It explores the combination of the powerful FocalNet-Huge backbone with the effective Stable-DINO detector. Different from existing SOTA models that utilize an extensive number of parameters and complex training techniques on large-scale private data or merged data, our model is exclusively trained on the publicly available dataset Objects365, which ensures the reproducibility of our approach.

研究の動機と目的

• プライベートデータセットや複雑な訓練技術に依存しない強力で完全に再現可能なオブジェクト検出モデルの開発を目的とする。
• Objects365やCOCOなどの公開データセットを用いることで、オブジェクト検出分野における再現性の危機を是正することを目的とする。
• 強力で公開可能なパイプラインを用いて、小さな物体や密集した物体といった困難なオブジェクトカテゴリの検出性能を向上させることを目的とする。
• COCOにおけるアノテーション品質の問題、例えばラベルの欠落や基準の不一致といった問題を浮き彫りにし、モデルの汎化性能や訓練安定性に与える影響を明らかにすることを目的とする。

提案手法

• 強力な特徴表現を得るため、FocalNet-Huge（689Mパラメータ）をバックボーンとして使用し、ImageNet-22Kでのみ事前学習を行う。
• Stable-DINO検出器は、位置情報に基づく損失関数と位置変調型コストを導入することで、デコーダ層全体での訓練を安定化させる。
• 全検出器の訓練を、事前学習にObjects365、微調整にCOCOの公開データセットのみに限定し、プライベートデータを一切使用しない。
• マスク画像モデリングや画像・テキスト対照学習といった複雑な訓練技術を避けることで、シンプルさと再現可能性を確保する。
• テスト時増強を用いず、標準的なエンドツーエンドの訓練パイプライン、標準的なデータオーグメンテーション、標準的な最適化手法を採用する。
• FocalNetおよびStable-DINOの公開コードと重みをGitHubリポジトリから入手し、完全な再現性を実現する。

実験結果

リサーチクエスチョン

• RQ1 プライベートデータや複雑な事前学習技術に依存せずに、公開データセットのみを用いて強力なオブジェクト検出器を構築可能か？
• RQ2 強力なバックボーン（FocalNet-Huge）と安定した検出ヘッド（Stable-DINO）を組み合わせることで、COCOにおける性能にどのような影響を与えるか？
• RQ3 COCOにおけるアノテーションの不一致やラベルの欠落が、モデルの訓練および汎化性能に及ぼす影響はどの程度か？
• RQ4 テスト時増強や大規模データコーパスの前処理なしで、SOTA性能をCOCO test-devで達成可能か？
• RQ5 公開データのみを用いた場合、特に小さな物体や密集した物体に対して、オブジェクトクラス間で性能差がどの程度生じるか？

主な発見

• Focal-Stable-DINOは、COCO val2017で64.6 AP、COCO test-devで64.8 APを達成し、公開データセットでの学習に特化したモデルとして新たなSOTAを樹立した。
• プライベートデータやマスク画像モデリング、複雑なデータコーパスパイプラインに依存する既存のSOTA手法を上回る性能を示した。
• 赤矢印で示された難易度の高いケースの可視化から、小さな物体や密集した物体の検出においてもモデルの頑健性が確認された。
• 本研究では、COCOにおける顕著なアノテーション問題、例えばリンゴのラベル欠落やバナナのラベル基準の不一致といった問題を特定した。
• 特に小さな物体に対しては、オブジェクトクラス間での性能差が依然として大きく、検出の汎化性能に課題が残っていることが示された。
• テスト時増強を一切用いずともSOTA性能を達成したことは、モデルが強いインダクティブバイアスと汎化能力を持つことを裏付けた。