[論文レビュー] CITRIS: Causal Identifiability from Temporal Intervened Sequences

Phillip Lippe, Sara Magliacane+4 more|arXiv (Cornell University)|Feb 7, 2022

Domain Adaptation and Few-Shot Learning被引用数 6

ひとこと要約

CITRISは、既知の干渉を伴う時間的系列画像から多次元の因果要因を同定・分離する変分オートエンコーダー枠組みを提案する。干渉ターゲットとノーマライジングフローを活用することで、因果要因の一部成分しか干渉されない状況でも、識別可能で分離された表現を達成し、先行手法を上回り、事前学習済みオートエンコーダーを用いることで未観測の要因インスタンスへの一般化も可能となる。

ABSTRACT

Understanding the latent causal factors of a dynamical system from visual observations is considered a crucial step towards agents reasoning in complex environments. In this paper, we propose CITRIS, a variational autoencoder framework that learns causal representations from temporal sequences of images in which underlying causal factors have possibly been intervened upon. In contrast to the recent literature, CITRIS exploits temporality and observing intervention targets to identify scalar and multidimensional causal factors, such as 3D rotation angles. Furthermore, by introducing a normalizing flow, CITRIS can be easily extended to leverage and disentangle representations obtained by already pretrained autoencoders. Extending previous results on scalar causal factors, we prove identifiability in a more general setting, in which only some components of a causal factor are affected by interventions. In experiments on 3D rendered image sequences, CITRIS outperforms previous methods on recovering the underlying causal variables. Moreover, using pretrained autoencoders, CITRIS can even generalize to unseen instantiations of causal factors, opening future research areas in sim-to-real generalization for causal representation learning.

研究の動機と目的

• 一部の成分しか干渉されない時間的系列から多次元因果要因を同定すること。
• 干渉ターゲットと時間的ダイナミクスを活用して因果要因を分離する手法を開発すること。
• 事前学習済みオートエンコーダーに拡張することで、未観測の因果要因インスタンスへの一般化を可能にすること。
• 干渉が因果要因の成分の部分集合にのみ及ぶ一般設定において識別可能性を証明すること。
• 事前学習済みオートエンコーダーからの混同された表現を因果的に分離された潜在空間にマッピングする実用的フレームワークを提供すること。

提案手法

• CITRISは、干渉ターゲットに条件づけられた事前分布を備えた変分オートエンコーダー（VAE）を用い、分離された潜在表現を学習する。
• 事前学習済みオートエンコーダーからの混同された潜在表現を因果的分離された表現にマッピングするためのノーマライジングフローを導入する。
• フレームワークは因果要因を多次元ベクトルとしてモデル化し、マクロ変数レベルの分離を可能にする。
• 即時効果のない一次マルコフ的かつ定常な動的ベイジアンネットワークを仮定する。
• 干渉によってのみ影響を受ける最小因果変数（最小因果変数）を同定し、それ以外の影響を受けない情報を別個の潜在グループにグループ化する。
• モデルは、干渉ターゲットが既知の時間的系列画像のシーケンスで訓練され、標準的な因果仮定のもとで因果的識別可能性を達成する。

実験結果

リサーチクエスチョン

• RQ1 干渉が因果要因の一部成分にのみ及ぶ時間的系列から、多次元因果要因を同定できるか。
• RQ2 干渉ターゲットと時間的ダイナミクスを活用して、変分オートエンコーダーをどのように設計すれば因果要因を分離できるか。
• RQ3 ノーマライジングフローは、事前学習済みオートエンコーダーからの混同された表現を因果的に分離された潜在空間に効果的にマッピングできるか。
• RQ4 事前学習モデルを用いる場合、フレームワークは未観測の因果要因インスタンスへの一般化を達成できるか。
• RQ5 提案手法は、現実的な視覚的ダイナミクス下でも最小因果変数を回復する上で識別可能で頑健か。

主な発見

• CITRISは、ボックスの識別（ball_b）や内部ボールの位置（ball_xin）といった因果要因を効果的に分離し、潜在空間と ball_xin 間で決定係数R²が0.99に達する高い相関を達成した。
• 潜在空間と ball_b 間の相関はほぼゼロ（0.00）に抑えられ、干渉によって影響を受ける成分のみが因果要因に捕捉されていることが確認された。
• ボールインボックス実験では、CITRIS-VAEが平均トリプレット評価距離0.01を達成し、優れた分離品質を示した。
• ノーマライジングフロー部は、事前学習済みオートエンコーダーを用いる場合、未観測の因果要因インスタンスへの一般化を可能にした。
• 相関行列の可視化により、潜在次元が正しく割り当てられていることが確認された： ball_xin は z_ψ₀ にグループ化され、ball_b は別個の要因として分離された。
• フレームワークは、因果要因の一部成分しか干渉されない一般設定において識別可能性を証明し、スカラ要因に限った先行研究を拡張した。