[論文レビュー] Global Distance-distributions Separation for Unsupervised Person Re-identification

Xin Jin, Cuiling Lan+2 more|arXiv (Cornell University)|Jun 1, 2020

Video Surveillance and Tracking Methods参考文献 51被引用数 7

ひとこと要約

本稿では、正例と負例の距離分布の明確な分離を促すために、グローバル距離分布分離（GDS）制約を提案する。正例と負例の距離分布をガウス分布としてモデル化し、グローバル統計を維持するためのモーメンタムベースの更新機構を用いることで、特徴空間の分離性が向上し、分布に配慮したハードサンプルマイニングが可能になる。最小限の訓練オーバーヘッドで最先端の性能を達成する。

ABSTRACT

Supervised person re-identification (ReID) often has poor scalability and usability in real-world deployments due to domain gaps and the lack of annotations for the target domain data. Unsupervised person ReID through domain adaptation is attractive yet challenging. Existing unsupervised ReID approaches often fail in correctly identifying the positive samples and negative samples through the distance-based matching/ranking. The two distributions of distances for positive sample pairs (Pos-distr) and negative sample pairs (Neg-distr) are often not well separated, having large overlap. To address this problem, we introduce a global distance-distributions separation (GDS) constraint over the two distributions to encourage the clear separation of positive and negative samples from a global view. We model the two global distance distributions as Gaussian distributions and push apart the two distributions while encouraging their sharpness in the unsupervised training process. Particularly, to model the distributions from a global view and facilitate the timely updating of the distributions and the GDS related losses, we leverage a momentum update mechanism for building and maintaining the distribution parameters (mean and variance) and calculate the loss on the fly during the training. Distribution-based hard mining is proposed to further promote the separation of the two distributions. We validate the effectiveness of the GDS constraint in unsupervised ReID networks. Extensive experiments on multiple ReID benchmark datasets show our method leads to significant improvement over the baselines and achieves the state-of-the-art performance.

研究の動機と目的

• 自己教師付き人物再識別における正例と負例の距離分布の分離性の低さがリtrieval性能を損なうという問題に取り組む。
• 局所最適化の目的関数とReIDのグローバルランク要件のギャップを埋めるために、グローバル分布レベルの制約を導入する。
• 自己教師付きの方法で、距離分布のグローバル統計（平均と分散）をモデル化・最適化することで、自己教師付きReIDの性能を向上させる。
• 学習済みのグローバル分布統計を活用してトレーニングをガイドすることで、効果的なハードサンプルマイニングを可能にする。
• ドメインシフトが生じるラベルなしターゲットドメインにおいて、モデルの一般化性能と耐性を著しく向上させつつ、訓練オーバーヘッドを最小限に保つ。

提案手法

• 本手法は、正例および負例ペairのグローバル距離分布を、学習可能な平均と分散パラメータを持つガウス分布としてモデル化する。
• トレーニング中にリアルタイムでグローバル分布パラメータ（μ⁺, σ⁺², μ⁻, σ⁻²）を維持・更新するためのモーメンタム更新機構を用いることで、安定的かつ的確な統計を得る。
• 現在のグローバル分布推定値を用いて、オンザフライでGDS損失を計算し、2つのガウス分布の分離を促進するとともに、鋭さ（分散の低減）を促進する。
• 分布に基づくハードマイニングを導入し、分布のハードテール領域（例えば、最も遠い正例や最も近い負例）にあるサンプルを選択することで、一般化性能を向上させる。
• 疑似ラベル付けとクラスタリングを用いた自己教師付きReIDパイプラインに統合し、計算コストを最小限に抑える。
• 従来のクラスタリングベースの自己教師付きReIDフレームワークと互換性があり、プラグイン損失として容易に適用可能である。

実験結果

リサーチクエスチョン

• RQ1 グローバル距離分布分離が、正例と負例の距離の重なりを減らすことで、自己教師付き人物再識別性能を向上させ得るか？
• RQ2 モーメンタム更新を用いてグローバル分布統計（平均と分散）をモデル化することで、自己教師付きReIDにおける特徴空間の分離性にどのような影響を与えるか？
• RQ3 標準的なハードマイニングと比較して、分布に配慮したハードマイニングは、モデルの一般化性能をどの程度向上させるか？
• RQ4 GDS制約は、異なるクラスタリングアルゴリズムやドメイン適応設定においても有効性を維持するか？
• RQ5 既存の自己教師付きReIDトレーニングパイプラインにGDS損失を統合する際の計算コストはどの程度か？

主な発見

• 提案されたGDS制約により、正例と負例の距離分布の分離性が顕著に向上し、トレーニングおよびテストセットのヒストグラムにおいて明確な分離が確認された。
• Market1501-to-DukeMTMC-reIDベンチマークにおいて、49.0% mAPおよび67.2% Rank-1を達成し、ベースラインから8.8ポイントの向上を達成した。
• 異なるクラスタリングアルゴリズムにおいても一貫して性能向上を示し、mAPでDBSCANでは6.7%、HDBSCANでは6.1%の向上を記録した。
• トレーニング時間の増加は最小限であり、ベースライン（17.9時間）比でわずか1.7%増加（18.2時間）にとどまり、計算コストが低いことを示した。
• GDS制約は完全に教師ありReIDでも性能向上をもたらしたが、その増加は小さい（1.6–1.9% mAP）ため、より広範な適用可能性を示している。
• モーメンタムベースの更新機構により、グローバル分布統計の安定的かつ的確な推定が可能となり、トレーニング中の効果的な損失計算に不可欠であることがわかった。