[論文レビュー] Unbiased Teacher for Semi-Supervised Object Detection
Unbiased Teacher は教師とStudentを共同訓練し、半教師付き物体検出を行う。 pseudo-labelを洗練させるためにEMAを用い、疑似ラベルのバイアスに対処する focal loss を適用し、低ラベル領域で COCO および VOC において最先端の成果を達成する。
Semi-supervised learning, i.e., training networks with both labeled and unlabeled data, has made significant progress recently. However, existing works have primarily focused on image classification tasks and neglected object detection which requires more annotation effort. In this work, we revisit the Semi-Supervised Object Detection (SS-OD) and identify the pseudo-labeling bias issue in SS-OD. To address this, we introduce Unbiased Teacher, a simple yet effective approach that jointly trains a student and a gradually progressing teacher in a mutually-beneficial manner. Together with a class-balance loss to downweight overly confident pseudo-labels, Unbiased Teacher consistently improved state-of-the-art methods by significant margins on COCO-standard, COCO-additional, and VOC datasets. Specifically, Unbiased Teacher achieves 6.8 absolute mAP improvements against state-of-the-art method when using 1% of labeled data on MS-COCO, achieves around 10 mAP improvements against the supervised baseline when using only 0.5, 1, 2% of labeled data on MS-COCO.
研究の動機と目的
- 半教師付き物体検出 (SS-OD) における疑似ラベリングとクラス不均衡の課題を特定する。
- 疑似ラベルの品質を反復的に改善する教師-学生フレームワークを提案する。
- EMAベースの教師の改良と focal loss が COCO データセットと VOC データセットの SS-OD パフォーマンスを向上させることを示す。
提案手法
- Burn-In を導入し、有標識データで検出器を初期化する。
- 教師-学生の相互学習ループを用い、教師が学生のための疑似ラベルを生成し、学生が EMA を用いて教師を更新する。
- ROI分類のために focal loss を用いたクラスバランスを取った監督を適用し、疑似ラベルのバイアスを緩和する。
- 教師には弱い拡張、Student には強い拡張を適用して、多様な疑似ラベルを奨励する。
- 疑似ラベルを使用する場合、ノイズの多いラベルのフィードバックを防ぐために Student を Teacher の更新から分離する。
- 教師を Student の重みの EMA として表現し、安定した時系列アンサンブルを形成する。
実験結果
リサーチクエスチョン
- RQ1相互進化する教師-学生フレームワークは、SS-OD における疑似ラベルのバイアスを低減できるか。
- RQ2EMAベースの教師の改良は、訓練を通じてより正確で安定した疑似ラベルを生み出すか。
- RQ3focal loss は疑似ラベルのクラス不均衡の影響と全体の検出器性能にどのように影響するか。
- RQ4拡張戦略が疑似ラベルの品質と検出精度に与える影響はどの程度か。
主な発見
- Unbiased Teacher は、非常に限られたラベルデータ(例: COCO-standard の 1% labeled)で特に、従来のSS-OD手法よりも大きな絶対的な mAP 増加を達成する。
- EMA ベースの教師改良と focal loss を組み合わせると、より正確でバランスの取れた疑似ラベルが生成され、ラベル分布の不一致(KL発散の低下)を抑制し、mAP を向上させる。
- このアプローチは、COCO-standard、COCO-additional、VOC で複数のラベルデータ条件で大幅な向上をもたらし、CSD および STAC のベースラインを上回る。
- アブレーション研究は、EMA と focal loss が個別にも、また併用時にも、性能の向上とよりバランスのとれた疑似ラベル分布に寄与することを示す。
この論文を読む
Nubintのビューアで原文を開き、読みながら気になる箇所をすぐに質問できます。
Nubintでこの論文を読むこのレビューはAIが論文の原文をもとに作成しました。引用する前に原文をご確認ください。