[論文レビュー] Training on Test Data with Bayesian Adaptation for Covariate Shift

Aurick Zhou, Sergey Levine|arXiv (Cornell University)|Sep 27, 2021

Domain Adaptation and Few-Shot Learning参考文献 45被引用数 4

ひとこと要約

本稿では、分布シフト下での精度と不確実性のキャリブレーションを向上させるために、ラベルなしテストデータとモデルパラメータをベイジアンモデルで結びつけることで、テスト時適応手法であるベイジアン・アダプテーション・フォア・コバリアート・シフト（BACS）を提案する。正則化されたエントロピー最小化を近似的ベイジアン推論を用いて実装し、画像分類ベンチマークにおいて、精度と不確実性の信頼性の両面で先行手法を上回る結果を得た。

ABSTRACT

When faced with distribution shift at test time, deep neural networks often make inaccurate predictions with unreliable uncertainty estimates. While improving the robustness of neural networks is one promising approach to mitigate this issue, an appealing alternate to robustifying networks against all possible test-time shifts is to instead directly adapt them to unlabeled inputs from the particular distribution shift we encounter at test time. However, this poses a challenging question: in the standard Bayesian model for supervised learning, unlabeled inputs are conditionally independent of model parameters when the labels are unobserved, so what can unlabeled data tell us about the model parameters at test-time? In this paper, we derive a Bayesian model that provides for a well-defined relationship between unlabeled inputs under distributional shift and model parameters, and show how approximate inference in this model can be instantiated with a simple regularized entropy minimization procedure at test-time. We evaluate our method on a variety of distribution shifts for image classification, including image corruptions, natural distribution shifts, and domain adaptation settings, and show that our method improves both accuracy and uncertainty estimation.

研究の動機と目的

• ディープラーニングにおける分布シフトの課題に対処すること。これは、テスト時における分布シフト下でモデルの精度と不確実性キャリブレーションが低下するためである。
• 標準モデルにおける条件付き独立性にもかかわらず、ラベルなしテストデータを意味的に活用できる、整合的なベイジアンフレームワークを構築すること。
• ヒューリスティックなエントロピー最小化による過信を回避しつつ、共変量シフト下での予測精度と不確実性推定を両方向上させること。
• 標準トレーニングにおける変更を最小限に抑え、トレーニングデータへのアクセスなしに動作する実用的な適応手法を提供すること。
• トレーニング時におけるマージナル化が、ヒューリスティックなアプローチに比べて一般化性能とキャリブレーションの両面で優れていることを示すこと。

提案手法

• ラベルなしテストデータが分布シフト下にある状況で、明確なラベル付けが可能であると仮定することで、テストデータとモデルパラメータを明示的に結びつけるベイジアン確率モデルを提案する。
• テストデータ生成プロセスが一意で明確なラベルを好むという条件付き独立性の仮定を導入し、これによりモデルパラメータの推論が可能になる。
• 正則化されたエントロピー最小化に対応する近似的推論手順を導出する。この手順には、過学習を防ぐためにトレーニング後の事後分布からの事前分布項が含まれる。
• テスト時適応中に、モデルの近似事後分布を正則化子として用い、ネットワークが初期トレーニング解に近い位置に留まるように制約を課す。
• エントロピー最小化とトレーニングデータからの対数事後分布項を組み合わせたシンプルな最適化目的関数を適用し、エンドツーエンドの適応を可能にする。
• アーキテクチャの変更を最小限に抑え、全ネットワークを適応させつつ、ベイジアン正則化によってキャリブレーションを維持する実装を実現する。

実験結果

リサーチクエスチョン

• RQ1 共変量シフト下のラベルなしテストデータが、整合的なベイジアンフレームワークにおいてモデルパラメータに関する意味のある情報を提供できるか？
• RQ2 分布シフト下で精度と不確実性キャリブレーションの両方を向上させるテスト時適応手法をどのように設計できるか？
• RQ3 トレーニングデータから導出された事後分布を、テスト時適応中に正則化子として組み込むと、どのような影響を与えるか？
• RQ4 TENTのようなヒューリスティックな適応手法と比較して、ベイジアン正則化は、ロバスト性とキャリブレーションの両面で優れているか？
• RQ5 どのような状況でトレーニング事後分布の制約が適応を制限し、どのような状況で有益となるか？

主な発見

• ImageNet-RではBACSが47.31%のトップ-1精度を達成し、TENT（45.75%）やヴァニラモデル（40.38%）をすべて上回った。
• ImageNet-Cでは、NLLを3.288（ヴァニラ）から2.565に、Brierスコアを0.7602から0.6625に低下させ、キャリブレーションと不確実性推定の両方で改善が確認された。
• アンサンブルを用いないMAPバージョンのBACSもTENTを上回り、ベイジアン正則化を伴う全ネットワーク適応が、正則化なしの部分的適応よりも効果的であることを示した。
• アブレーションスタディでは、事後分布項を除去すると、一部の破損データで近似的にゼロの精度を示す退化した解が得られ、正則化項の必要性が明確になった。
• SVHNからMNISTへのドメイン移行では、事後分布項を除去することで性能が向上した。これは、大規模なドメインシフトではトレーニング事後分布が過剰に制限的である可能性を示唆している。
• ImageNet-RではECE（期待キャリブレーション誤差）を0.05667（ヴァニラ）から0.04270に改善し、不確実性キャリブレーションの向上を確認した。