[論文レビュー] SWA Object Detection

Haoyang Zhang, Ying Wang+2 more|arXiv (Cornell University)|Dec 23, 2020

Advanced Neural Network Applications参考文献 12被引用数 6

ひとこと要約

この論文では、サイクル学習率を用いて追加の12エポックを訓練し、得られた12個のモデルチェックポイントを平均化することで、オブジェクト検出性能を向上させる単純ながらも非常に効果的な手法を提案している。この手法は、確率的重み平均化（SWA）にインspiredされており、Mask R-CNN、Faster R-CNN、RetinaNet、FCOS、YOLOv3、VFNetなど複数の検出器において、COCOベンチマークで一貫してAPを約1.0向上させる。推論コストは一切かからず、アーキテクチャの変更も不要である。

ABSTRACT

Do you want to improve 1.0 AP for your object detector without any inference cost and any change to your detector? Let us tell you such a recipe. It is surprisingly simple: train your detector for an extra 12 epochs using cyclical learning rates and then average these 12 checkpoints as your final detection model}. This potent recipe is inspired by Stochastic Weights Averaging (SWA), which is proposed in arXiv:1803.05407 for improving generalization in deep neural networks. We found it also very effective in object detection. In this technique report, we systematically investigate the effects of applying SWA to object detection as well as instance segmentation. Through extensive experiments, we discover the aforementioned workable policy of performing SWA in object detection, and we consistently achieve $\sim$1.0 AP improvement over various popular detectors on the challenging COCO benchmark, including Mask RCNN, Faster RCNN, RetinaNet, FCOS, YOLOv3 and VFNet. We hope this work will make more researchers in object detection know this technique and help them train better object detectors. Code is available at: https://github.com/hyz-xmaster/swa_object_detection .

研究の動機と目的

• 確率的重み平均化（SWA）がオブジェクト検出モデルの一般化性能を向上させられるかどうかを調査すること。
• SWAをオブジェクト検出に適用するための効果的なトレーニング戦略を同定すること、具体的には学習率スケジューリングと平均化するチェックポイント数を含む。
• 異なるアーキテクチャとバックボーンネットワークを搭載した多様なオブジェクト検出器に対して、SWAの影響を評価すること。
• SWAが検出器アーキテクチャを変更せず、推論オーバーヘッドを発生させずに一貫したAP向上を達成できることを示すこと。

提案手法

• 標準的なトレーニングスケジュール（例：1xまたは2xスケジュール）に従い、事前に定義されたエポック数までオブジェクト検出器を訓練する。
• 標準的なトレーニング後、初期学習率と最終学習率の間をサイクルするサイクル学習率を用いて、追加で12エポックを訓練する。
• これらの追加12エポックから得られたモデルチェックポイントを収集し、それらの平均をとることで最終的なSWAモデルを構築する。
• 平均化されたモデルを推論に使用し、元の検出器と同一のアーキテクチャと推論パイプラインを維持する。
• Mask R-CNN、Faster R-CNN、RetinaNet、FCOS、YOLOv3、VFNetを含む多様な検出器に対して、同じトレーニングおよび平均化手順を適用する。
• 標準的なCOCOのAPメトリクスを用いて、COCO 2017の検証スプリットで最終的なSWAモデルを評価する。

実験結果

リサーチクエスチョン

• RQ1 SWAはアーキテクチャの変更なしにオブジェクト検出モデルの一般化性能を向上させられるか？
• RQ2 オブジェクト検出におけるSWAの適用に最適なトレーニング戦略は何か——具体的には、追加エポック数と学習率スケジューリングはどのようにすべきか？
• RQ3 異なるアーキテクチャとバックボーンを搭載した多様なオブジェクト検出器において、SWAベースの手法は一貫して性能向上をもたらすか？
• RQ4 誤差分解分析によって測定した場合、SWAはオブジェクト定位と分類の精度にどのように影響を与えるか？

主な発見

• サイクル学習率を用いて追加12エポックを訓練し、得られた12個のチェックポイントを平均化することで、すべてのテスト済み検出器においてCOCOベンチマークでAPが約1.0向上する。
• SWA 1-12モデルは、24または48エポックで訓練されたSWAモデルと同等またはより優れた性能を達成しており、12エポックの追加訓練が最適な利得をもたらすことが示された。
• 誤差分解分析により、定位精度（例：IoU=0.75で+1.0 AP）と分類精度（例：定位エラーを無視した場合に+0.9 AP）の両方を向上させていることが示された。
• 元のAPにかかわらず、SWA手法は高精度モデルおよび初期精度が低いモデルの両方で一貫して性能向上をもたらす。
• 固定学習率で16エポック、その後サイクル学習率で12エポックをトレーニングする混合戦略を用いてスクラッチから訓練したSWAモデルは、事前学習済みモデルを用いたSWAモデルと同等の性能（ボックスAP 41.7、マスクAP 37.4）を達成しており、この手法の頑健性を確認した。
• Mask R-CNN、Faster R-CNN、RetinaNet、FCOS、YOLOv3、VFNetを含む複数の検出器において、この改善が観察されたことから、広範な適用可能性が示された。