[論文レビュー] YOLOv9: Learning What You Want to Learn Using Programmable Gradient Information

Chien-Yao Wang, I-Hau Yeh+1 more|arXiv (Cornell University)|Feb 21, 2024

COVID-19 diagnosis using AI被引用数 335

ひとこと要約

この論文はProgrammable Gradient Information (PGI) と Generalized Efficient Layer Aggregation Network (GELAN) を導入し、訓練-from-scratch YOLOv9 を情報保持と効率性で優位に、MS COCO でリアルタイム物体検出の最先端を達成する。

ABSTRACT

Today's deep learning methods focus on how to design the most appropriate objective functions so that the prediction results of the model can be closest to the ground truth. Meanwhile, an appropriate architecture that can facilitate acquisition of enough information for prediction has to be designed. Existing methods ignore a fact that when input data undergoes layer-by-layer feature extraction and spatial transformation, large amount of information will be lost. This paper will delve into the important issues of data loss when data is transmitted through deep networks, namely information bottleneck and reversible functions. We proposed the concept of programmable gradient information (PGI) to cope with the various changes required by deep networks to achieve multiple objectives. PGI can provide complete input information for the target task to calculate objective function, so that reliable gradient information can be obtained to update network weights. In addition, a new lightweight network architecture -- Generalized Efficient Layer Aggregation Network (GELAN), based on gradient path planning is designed. GELAN's architecture confirms that PGI has gained superior results on lightweight models. We verified the proposed GELAN and PGI on MS COCO dataset based object detection. The results show that GELAN only uses conventional convolution operators to achieve better parameter utilization than the state-of-the-art methods developed based on depth-wise convolution. PGI can be used for variety of models from lightweight to large. It can be used to obtain complete information, so that train-from-scratch models can achieve better results than state-of-the-art models pre-trained using large datasets, the comparison results are shown in Figure 1. The source codes are at: https://github.com/WongKinYiu/yolov9.

研究の動機と目的

• ディープネットワークのフィードフォワード処理中の情報損失（情報ボトルネック）を動機づけと対処する。
• 補助的な可逆ブランチを介して信頼できる勾配情報を提供するフレームワーク（PGI）を開発。
• 従来の畳み込みを用いて情報を保持し、パラメータ利用を改善する軽量で柔軟なアーキテクチャ（GELAN）を設計。
• PGI と GELAN を備えた YOLOv9 が訓練-from-scratch 設定下で既存のリアルタイム検出器より優れていることを実証。

提案手法

• Programmable Gradient Information (PGI) は以下を構成する: (i) メイン推論ブランチ, (ii) 信頼性の高い勾配を供給する補助的可逆ブランチ, (iii) セマンティック指針を特徴ピラミッド間でバランスさせる多段階補助情報。
• 推論コストを増やさず情報ボトルネックを緩和する補助的可逆ブランチを導入。
• 異なる予測ヘッドからの勾配を融合しディープ・スーパービジョンで情報損失を防ぐための多段階補助情報を取り入れる。
• ELAN を GELAN に一般化し、様々な畳み込みブロック（CSP, RES, DARK）を用いられるモジュール化アーキテクチャで、パラメータ効率と速度を最適化。
• ELAN ブロックを CSPNet ベースのバックボーンで GELAN に置換し、YOLOv9 のバックボーン/ネックを構成し、アンカーなし予測ヘッドを採用。
• 訓練-from-scratch 設定で MS COCO を評価し、最新のリアルタイム検出器と比較。

実験結果

リサーチクエスチョン

• RQ1 PGI は軽量モデルにも大規模モデルにも信頼できる勾配を提供し、推論コストを増やさず訓練を改善できるか？
• RQ2 GELAN は深度-wise 畳み込みベース設計と比較してパラメータ利用と速度を改善しつつ、精度を維持または向上させるか？
• RQ3 補助的可逆ブランチと多段階補助情報は、モデル規模を跨いで情報保持と収束にどのような影響を与えるか？

主な発見

• YOLOv9 variants achieve strong real-time object detection performance on MS COCO with train-from-scratch training: GELAN-S 46.7 AP50:95, GELAN-M 51.1 AP50:95, GELAN-C 52.5 AP50:95, GELAN-E 55.0 AP50:95; YOLOv9-S 46.8, YOLOv9-M 51.4, YOLOv9-C 53.0, YOLOv9-E 55.6 AP50:95.
• YOLOv9-C and YOLOv9-E outperform comparable models in AP50:95 while using fewer parameters and computations than several baselines (e.g., vs. YOLOv7 AF and YOLOv8-X in reported comparisons).
• GELAN reduces reliance on depth-wise convolutions and achieves higher parameter efficiency; GELAN-S, GELAN-M, GELAN-C, and GELAN-E demonstrate stable gains across model scales.
• Ablations show that PGI consistently improves accuracy across backbone/neck configurations and model sizes, with auxiliary reversible branches and multi-level auxiliary information providing measurable gains over deep supervision alone.
• PGI enables train-from-scratch models to match or surpass some pretrained large-model baselines in accuracy while using fewer parameters and lower FLOPs.