[論文レビュー] Towards Stable Test-Time Adaptation in Dynamic Wild World

Shuaicheng Niu, Jiaxiang Wu+5 more|arXiv (Cornell University)|Feb 24, 2023

Domain Adaptation and Few-Shot Learning被引用数 62

ひとこと要約

本論文は、サラ（SAR）、シャープネス対応の信頼性の高いエントロピー最小化法を導入し、ノイズサンプルをフィルタリングして平坦な極小点を促進することで、過酷な試験条件下での完全なテスト時適応（TTA）を安定化させる。

ABSTRACT

Test-time adaptation (TTA) has shown to be effective at tackling distribution shifts between training and testing data by adapting a given model on test samples. However, the online model updating of TTA may be unstable and this is often a key obstacle preventing existing TTA methods from being deployed in the real world. Specifically, TTA may fail to improve or even harm the model performance when test data have: 1) mixed distribution shifts, 2) small batch sizes, and 3) online imbalanced label distribution shifts, which are quite common in practice. In this paper, we investigate the unstable reasons and find that the batch norm layer is a crucial factor hindering TTA stability. Conversely, TTA can perform more stably with batch-agnostic norm layers, \ie, group or layer norm. However, we observe that TTA with group and layer norms does not always succeed and still suffers many failure cases. By digging into the failure cases, we find that certain noisy test samples with large gradients may disturb the model adaption and result in collapsed trivial solutions, \ie, assigning the same class label for all samples. To address the above collapse issue, we propose a sharpness-aware and reliable entropy minimization method, called SAR, for further stabilizing TTA from two aspects: 1) remove partial noisy samples with large gradients, 2) encourage model weights to go to a flat minimum so that the model is robust to the remaining noisy samples. Promising results demonstrate that SAR performs more stably over prior methods and is computationally efficient under the above wild test scenarios.

研究の動機と目的

• 現実的で荒れたテスト設定下のTTAの安定性課題を動機づけ、分析する。
• 安定したTTAの障害となるバッチ正規化を特定し、バッチに依存しない正規化（GN/LN）を評価する。
• ノイズサンプルをフィルタリングし、信頼性のあるオンライン適応のための平坦な極小点を強制する堅牢な最適化フレームワーク（SAR）を開発する。
• ImageNet-C上でさまざまな荒れたシナリオに対する正規化レイヤーの影響を実証的に検証し、SARを最先端のTTA手法と比較する。

提案手法

• BNが小さなバッチと分布シフト下で偏った平均/分散推定を引き起こすため、安定したTTAを妨げると論じる。
• 正規化レイヤを調査し、TTAにはバッチに依存しないノーム（GN/LN）の使用を提案する。
• エントロピーE(x;Θ)が閾値E0以下のサンプルを選択的に使用することで、信頼性の高いエントロピー最小化を導入する。
• シャープネス対応エントロピー最小化E^SAを、半径ρ内のエントロピーの最大摂動として定義し、平坦な極小点を促進する。
• エントロピーに基づく信頼性サンプルS(x)を用いてS(x)E^SA(x;Θ)を最小化する.bi-level最適化を採用し、崩壊を検出した場合にはモデル回復スキームでリセットする。
• 計算効率のためにGN/LN層のアフィンパラメータのみに更新制限を課し、Tent/EATAの設定に従って実装する。
• 混合シフト、小さなバッチサイズ、オンラインラベル不均衡の下で、SARをMEMO、DDA、Tent、EATAと比較する。

実験結果

リサーチクエスチョン

• RQ1 normalizationの選択（BN、GN、LN）が荒れた試験条件下でのオンラインTTAの安定性にどう影響するか？
• RQ2 GN/LNベースのTTAにおいて、モデル崩壊と不安定性を克服する単一で効率的なオンライン最適化は可能か？
• RQ3 高勾配/ノイズのあるサンプルを選択的にフィルタリングし、平坦な極小点を促進することは、エントロピーに基づくTTA法の頑健性を改善するか？
• RQ4 混合シフト、小さなバッチサイズ、オンラインの不均衡ラベルシフトの下で、SARは最先端のTTA法とどの程度比較できるか？

主な発見

• バッチに依存しないノームGN/LNは荒れた試験シナリオ下のTTAでBNより安定しているが、まだ失敗ケースがある。
• エントロピーに基づく高勾配/ノイズのあるサンプルを削除し、適応中にシャープネス対応（平坦）極小点を強制することで安定性を向上させる。
• GNと LN を使用したSARは、MEMO、DDA、Tent、EATA と比較して、ImageNet-C の混合データに対して競合的または優れた精度を達成する。オンラインの不均衡ラベルシフトを含む場合でも同様。
• 混合の腐敗がレベル5および3で、GNおよびLNモデルに対して、評価対象の手法の中で最良の平均精度を達成する。
• バッチサイズが1の場合、SARは複数の腐敗タイプとモデルで最良の結果を示すことが多い一方、MEMOとDDAは計算コストがより高くなる。