[論文レビュー] Learning Weighted Representations for Generalization Across Designs

Fredrik Johansson, Nathan Kallus+2 more|arXiv (Cornell University)|Feb 23, 2018

Domain Adaptation and Few-Shot Learning参考文献 24被引用数 38

ひとこと要約

本稿では、因果推論およびドメイン適応において一般的に見られる設計シフト下での一般化性能を向上させるために、再重み付けされた一般化バウンドを最小化することで、共同表現学習とサンプル再重み付けフレームワークを提案する。この手法は、タスク関連の表現と適応的重みを学習し、IHDPで先行手法と比較してCATE誤差が65%低減するという最先端の性能を達成した。

ABSTRACT

Predictive models that generalize well under distributional shift are often desirable and sometimes crucial to building robust and reliable machine learning applications. We focus on distributional shift that arises in causal inference from observational data and in unsupervised domain adaptation. We pose both of these problems as prediction under a shift in design. Popular methods for overcoming distributional shift make unrealistic assumptions such as having a well-specified model or knowing the policy that gave rise to the observed data. Other methods are hindered by their need for a pre-specified metric for comparing observations, or by poor asymptotic properties. We devise a bound on the generalization error under design shift, incorporating both representation learning and sample re-weighting. Based on the bound, we propose an algorithmic framework that does not require any of the above assumptions and which is asymptotically consistent. We empirically study the new framework using two synthetic datasets, and demonstrate its effectiveness compared to previous methods.

研究の動機と目的

• 治療方針や特徴ドメインの変化に起因する因果推論および非教師付きドメイン適応における分布シフトを扱う。
• 現行手法が不切実な仮定や固定された指標、不安定な重要度サンプリングに依存するという限界を克服する。
• 事前に指定された指標や既知のポリシーを必要としない、表現学習とサンプル重みの共同学習が漸近的に一貫性を持つフレームワークを開発する。
• 経験的リスクと分布シフトをバランスさせる再重み付けされたバウンドを最小化することで、設計シフト下での一般化誤差を低減する。
• 表現空間におけるホールドアウト検証を用いて分散制御とハイパーパrameterチューニングを可能にする。

提案手法

• 設計シフト下での一般化誤差バウンドを定式化し、表現学習とサンプル再重み付けを統合する。
• 表現関数 $\Phi(x)$ と重み関数 $w(\Phi)$ を同時に最適化するアルゴリズムを提案し、再重み付けされた経験的リスクと再重み付けされた分布シフトを最小化する。
• 表現空間におけるソース設計とターゲット設計の間の分布シフトを測定するために、積分確率距離（IPM）を用いる。
• 重み関数 $w$ に正則化を施し、分散を制御し、有限標本下での性能を向上させる。
• 早期停止とホールドアウトされたソースサンプルを用いたハイパーパrameter選択により、一般化性能を向上させる。
• 入力特徴ではなく予測表現に基づいて重みを学習することで、非一様な再重み付けを可能にする。

実験結果

リサーチクエスチョン

• RQ1 統一されたフレームワークが、設計シフト下での一般化を向上させるために、表現学習とサンプル再重み付けを同時に最適化できるか？
• RQ2 高次元設定において、表現空間で重みを学習することは、入力空間の指標を用いるのと比較してどのように異なるか？
• RQ3 適応的重み付けと表現学習は、因果推論における反事後予測誤差をどの程度低減できるか？
• RQ4 既知の治療ポリシーや正確に指定されたモデルを必要としないフレームワークが、漸近的に一貫性を持つことができるか？
• RQ5 不均衡ペナルティ $\alpha$ のようなハイパーパrameterの選択が、性能と安定性に与える影響は何か？

主な発見

• 提案手法はIHDPデータセットで $0.65 \pm 0.04$ のCATE誤差を達成し、先行の最先端手法（CFRW：$0.76 \pm 0.02$、IPM-WNN：$1.2 \pm 0.12$）を著しく上回った。
• 非一様な再重み付け（$\lambda_w$ が小さい）は、特に $\alpha \in [10, 1000]$ の大規模な不均衡ペナルティ下で顕著な性能向上をもたらし、一様な再重み付けと比較して誤差を最大30%まで低減した。
• ハイパーパrameterチューニングによる $\alpha$ の適応的選択により、$\text{RMSE}(\hat{\tau}) = 0.67 \pm 0.05$ という高い性能を維持でき、オラクル $\alpha$ の設定に非常に近い結果を得た。
• 中程度から大きな $\alpha$ の場合、IPMペナルティが性能を向上させることから、表現ベースのバランス調整が一般化性能を向上させることを示した。
• ターゲット予測誤差を $0.38 \pm 0.01$ まで低減し、OLSの $1.1 \pm 0.05$ より著しく低い水準にまで低下させ、より高い頑健性を示した。
• 実験結果から、学習された表現に基づく再重み付けは、特に高次元設定において、入力空間の指標よりも効果的であることが明らかになった。