[論文レビュー] A Comprehensive Survey on Test-Time Adaptation under Distribution Shifts

Jian Liang, Ran He+1 more|arXiv (Cornell University)|Mar 27, 2023

Domain Adaptation and Few-Shot Learning被引用数 10

ひとこと要約

この調査は、分布シフト下でのテスト時適応（TTA）について、SFDA、TTBA、OTTA、TTPA を含む体系的な分類を提供し、分類、手法、応用、および未解決の課題を扱う。

ABSTRACT

Machine learning methods strive to acquire a robust model during the training process that can effectively generalize to test samples, even in the presence of distribution shifts. However, these methods often suffer from performance degradation due to unknown test distributions. Test-time adaptation (TTA), an emerging paradigm, has the potential to adapt a pre-trained model to unlabeled data during testing, before making predictions. Recent progress in this paradigm has highlighted the significant benefits of using unlabeled data to train self-adapted models prior to inference. In this survey, we categorize TTA into several distinct groups based on the form of test data, namely, test-time domain adaptation, test-time batch adaptation, and online test-time adaptation. For each category, we provide a comprehensive taxonomy of advanced algorithms and discuss various learning scenarios. Furthermore, we analyze relevant applications of TTA and discuss open challenges and promising areas for future research. For a comprehensive list of TTA methods, kindly refer to \url{https://github.com/tim-learn/awesome-test-time-adaptation}.

研究の動機と目的

• 推論前に未ラベルのテストデータへ適用するよう、事前に学習済みモデルを適応させることとして、テスト時適応（TTA）を定義する。
• TTA を四つのトピック（SFDA、TTBA、OTTA、TTPA）に分類し、それらを分布シフト耐性の下で統一する。
• 各カテゴリごとに高度な TTA アルゴリズムの分類体系を提供し、学習シナリオについて議論する。
• TTA の応用を分析し、未解決の課題と今後の研究方向を概説する。

提案手法

• 偽ラベリング、整合性訓練、アンサンブル戦略を含む SFDA 手法の分類を提示する。
• SFDA に用いられるデータ変動およびモデル変動に基づく整合性正則化を論じる。
• SFDA、TTBA、OTTA、TTPA の問題定義を概説し、関連する転移学習トピックと関連づける。
• 関連する学習パラダイム（SSL、半教師あり学習、自己教師付き学習、メタ学習、継続学習）をレビューし、それらと TTA との関連性を論じる。
• 応用を要約し、新たな傾向と残る未解決の問題への見通しを示す。

実験結果

リサーチクエスチョン

• RQ1 テスト時適応内のさまざまなサブ問題は何で、どのように体系的に分類できるか。
• RQ2 SFDA、TTBA、OTTA、TTPA に用いられる主なアルゴリズム系統とそれらの核となる原理は何か。
• RQ3 自己教師あり、半教師あり、および整合性ベースの手法は、分布シフト下での TTA パフォーマンスにどのように寄与するか。
• RQ4 主要な未解決の課題と今後の TTA 研究の有望な方向は何か。
• RQ5 現実のタスクにおける TTA 手法の実用的な応用と限界は何か。

主な発見

• SFDA 手法は一般に、さまざまなデノイジング、重み付け、ロバスト損失戦略を備えた pseudo-labeling を用いる。
• 整合性訓練とデータ／モデルの増強は、ソースデータなしでターゲット分布を揃えるのに中心的な役割を果たす。
• 統一された分類は、SFDA、TTBA、OTTA、TTPA を分布シフト下のテスト時適応の特別なケースとして結びつける。
• この調査は、SFDA で用いられる多様なアルゴリズム戦略（セントロイドベース、近傍ベース、最適化ベース、データ変動、アンサンブルベース）を整理している。
• 本論文は、プライバシー保護適応や継続的／オンライン設定を含む、未解決の課題と今後の方向性を強調している。
• TTA 手法のコミュニティリソースを GitHub のリンクで提供している。