[論文レビュー] Decentralised Person Re-Identification with Selective Knowledge Aggregation
本稿では、ドメイン固有の注意付きおよびローカルバッチ正規化層を学習することで、ローカルモデルのパーソナライゼーションとグローバルモデルの一般化を分離する、新しいフェデレーテッド・ペルソナル・リコグニション手法である選択的知識集約（SKA）を提案する。この手法は、二重のローカル正規化メカニズムによる選択的知識集約を通じて、既存の分散型Re-ID手法よりも顕著に精度を向上させ、見られるドメインおよび見られないドメインの両方で最先端の性能を達成する。
Existing person re-identification (Re-ID) methods mostly follow a centralised learning paradigm which shares all training data to a collection for model learning. This paradigm is limited when data from different sources cannot be shared due to privacy concerns. To resolve this problem, two recent works have introduced decentralised (federated) Re-ID learning for constructing a globally generalised model (server)without any direct access to local training data nor shared data across different source domains (clients). However, these methods are poor on how to adapt the generalised model to maximise its performance on individual client domain Re-ID tasks having different Re-ID label spaces, due to a lack of understanding of data heterogeneity across domains. We call this poor 'model personalisation'. In this work, we present a new Selective Knowledge Aggregation approach to decentralised person Re-ID to optimise the trade-off between model personalisation and generalisation. Specifically, we incorporate attentive normalisation into the normalisation layers in a deep ReID model and propose to learn local normalisation layers specific to each domain, which are decoupled from the global model aggregation in federated Re-ID learning. This helps to preserve model personalisation knowledge on each local client domain and learn instance-specific information. Further, we introduce a dual local normalisation mechanism to learn generalised normalisation layers in each local model, which are then transmitted to the global model for central aggregation. This facilitates selective knowledge aggregation on the server to construct a global generalised model for out-of-the-box deployment on unseen novel domains. Extensive experiments on eight person Re-ID datasets show that the proposed approach to decentralised Re-ID significantly outperforms the state-of-the-art decentralised methods.
研究の動機と目的
- データの非同一性と異なるラベル空間の影響により、既存の分散型Re-ID手法が個々のクライアントドメインにおける強力なモデルパーソナライゼーションを達成できないという制限に対処する。
- モデルパーソナライゼーションとグローバル一般化のバランスを取ることで、既知のソースドメインおよび未知の新規ドメインの両方での性能を向上させる。
- グローバルモデルの未知ドメインへの一般化能力を損なわせることなく、ローカルドメイン固有の知識を保持するメカニズムを開発する。
- 二重のローカル正規化戦略を導入し、フェデレーテッドRe-IDにおけるパーソナライゼーションと一般化を両立させる選択的知識集約を実現する。
提案手法
- 各クライアントごとにインスタンス固有でドメインに適応する特徴表現を学習できるように、バッチ正規化層に注意付き正規化（AN）を組み込む。
- クライアントごとに訓練され、グローバルサーバーの集約とは分離されるローカル特化正規化（LSN）層を導入する。
- ローカルパーソナライゼーション（LSN）とグローバル一般化（G-Norm）の両方の正規化を学習する二重ローカル正規化メカニズムを設計し、フェデレーテッドラーニングにより両者を更新する。
- 中央サーバーへの送信では、一般化正規化層（G-Norm）のみを送信し、LSN層はローカルに保持することでドメイン固有の知識を維持する。
- グローバルモデルはG-Normコンponentsのみを用いて更新される選択的集約戦略を採用し、直接的なLSN集約による劣化を回避する。
- クライアントがLSNおよびG-Normを含むローカルモデルを更新し、サーバーへの送信ではG-Normパラメータのみを送信する反復的フェデレーテッド学習設定でモデルを訓練する。
実験結果
リサーチクエスチョン
- RQ1非同一なデータと異なるラベル空間を有する分散型Re-ID手法は、どのように個々のクライアントドメインにおけるモデルパーソナライゼーションを向上させることができるか？
- RQ2ドメイン固有の正規化層を学習することは、既知のソースドメインにおける分散型Re-IDモデルの性能にどのような影響を与えるか？
- RQ3二重正規化メカニズムは、未知ドメインでの性能劣化を招かずに、フェデレーテッドRe-IDにおけるモデルパーソナライゼーションと一般化のバランスを効果的にとれるか？
- RQ4一般化正規化層の選択的集約は、すべてのローカル正規化層を単純平均する手法と比較して、グローバルモデルの一般化能力においてどのように異なるか？
- RQ5データの非同一性下で、注意付き正規化は分散型Re-IDにおける特徴表現をどの程度向上させるか？
主な発見
- 提案されたSKA手法は、8つの人物再識別データセットにおいて最先端の性能を達成し、既存の分散型手法よりも既知ドメインおよび未知ドメインの両方で優れた性能を示した。
- VIPeRデータセットでは、SKAは未見ドメインにおけるR1をベースラインの48.2％から53.9％まで向上させ、既知ドメインでは66.6％R1を達成し、強力なパーソナライゼーションと一般化能力を示した。
- 二重ローカル正規化メカニズムは、LSNを有するベースラインと比較して、VIPeRおよびiLIDSで一般化性能を約2％向上させつつ、高いパーソナライゼーション性能を維持した。
- LSNとANを備えたSKAは、Market-1501で78.2％R1、DukeMTMCで92.7％R1を達成し、両方のドメイン（既知および未見）でベースラインを10ポイント以上上回った。
- アブレーションスタディの結果、二重正規化メカニズムがローカルパーソナライゼーション知識の学習に起因する性能劣化を補償できることを確認し、パーソナライゼーションと一般化のより良いトレードオフを実現できた。
- 二重正規化を備えたSKAモデルは、iLIDS（未見）で72.7％R1、VIPeR（未見）で49.8％R1を達成し、ベースラインおよびローカル正規化層を平均または連結する変種と比較して顕著に優れた性能を示した。
より良い研究を、今すぐ始めましょう
論文の読解から最終レビューまで、研究時間を劇的に削減しましょう。
クレジットカード登録不要
このレビューはAIが作成し、人間の編集者が確認しました。