[論文レビュー] A Meta-Transfer Objective for Learning to Disentangle Causal Mechanisms

Yoshua Bengio, Tristan Deleu+6 more|arXiv (Cornell University)|Jan 30, 2019

Bayesian Modeling and Causal Inference参考文献 21被引用数 122

ひとこと要約

本論文は、分布変化への適応速度を最適化するメタラーニング目的を提案し、因果構造を発見し、因果メカニズムを分離する表現を学ぶ。正しい因果モデルは疎な分布変化の下でより速く適応することを示し、観測から因果変数を回復するエンコーダを含む滑らかなエンドツーエンドのパラメトリックアプローチを導入する。

ABSTRACT

We propose to meta-learn causal structures based on how fast a learner adapts to new distributions arising from sparse distributional changes, e.g. due to interventions, actions of agents and other sources of non-stationarities. We show that under this assumption, the correct causal structural choices lead to faster adaptation to modified distributions because the changes are concentrated in one or just a few mechanisms when the learned knowledge is modularized appropriately. This leads to sparse expected gradients and a lower effective number of degrees of freedom needing to be relearned while adapting to the change. It motivates using the speed of adaptation to a modified distribution as a meta-learning objective. We demonstrate how this can be used to determine the cause-effect relationship between two observed variables. The distributional changes do not need to correspond to standard interventions (clamping a variable), and the learner has no direct knowledge of these interventions. We show that causal structures can be parameterized via continuous variables and learned end-to-end. We then explore how these ideas could be used to also learn an encoder that would map low-level observed variables to unobserved causal variables leading to faster adaptation out-of-distribution, learning a representation space where one can satisfy the assumptions of independent mechanisms and of small and sparse changes in these mechanisms due to actions and non-stationarities.

研究の動機と目的

• 介入、行動、非定常性といった分布変化への適応速度によって因果構造の学習を動機づける。
• モジュール化された知識を用いると、正しい因果メカニズムはスパースな勾配更新をもたらし、より速い適応につながることを示す。
• 観測を潜在的な因果変数へ写像するエンコーダと因果グラフのエンドツーエンド学習を実証する。
• 生データから潜在因果変数へ写像するエンコーダを学習して、分布外への適応を改善する方法を探る。

提案手法

• 条件付き分布に対応するモジュール化された成分の中から選択する形で因果構造学習を定式化する（例：P(A)、P(B|A)、P(B)、P(A|B)）。
• 分布のシフトを反映する転送分布を定義し、SGD下での適応ダイナミクスを分析して、より速い適応によって正しい因果方向を明らかにする。
• 因果グラフのエッジの存在を表す滑らかなパラメータ化を構造パラメータgammaを用いて導入し、gammaを正しいエッジ方向（A→B vs B→A）へ押し込む勾配を導出する。
• 生データを潜在変数へ写像するエンコーダEを用いる表現学習設定へ拡張し、独立機構仮定とスパースな変化が成り立つ空間での学習を可能にする。
• MAML風の手続きに類似したメタ学習ループを提供する（内部ループ：モジュールパラメータを適応させる；外部ループ：gammaとエンコーダパラメータを更新する）。

実験結果

リサーチクエスチョン

• RQ1 分布変化に対する適応速度は、二つの変数間の真の因果方向を明らかにできるか？
• RQ2 二変数を超えてスケールさせるために、因果グラフ構造を微分可能な方法でパラメータ化し学習するにはどうすればよいか？
• RQ3 エンコーダは生データを潜在因果変数へ写像することを学習でき、独立機構およびスパースな変化の仮定を成り立たせ、転送性能を改善できるか？
• RQ4 提案されたメタ転送目的は、異なるデータモダリティ（離散/連続、線形/非線形関係）にわたる転送エピソードでのより速い適応学習と一致するか？

主な発見

• 正しい因果モデルは転送分布で不正確なものよりも速く適応し、初期の適応ステップで最も有益な信号を提供する。
• パラメータ数の議論は、疎な分布変化の下で正しいモデルが再学習に必要なパラメータを少なくできる理由を説明し、転送を速くする。
• 滑らかな構造パラメータgammaフレームワークは、勾配ベースの最適化によって正しい方向へ向けて因果グラフのエンドツーエンド学習を可能にする。
• 実験は、離散・連続の状況を通じて、単純なモジュレータと複雑なモジュレータの両方でgammaが真の因果方向を支持する方向へ収束することを示す。
• 観測を潜在変数へ写像するエンコーダは、真の因果変数を回復し、転送時に正しい因果グラフの利点を保持できる。