[論文レビュー] Exploring the Latent Space of Autoencoders with Interventional Assays

Felix Leeb, Sebastian Bauer+2 more|arXiv (Cornell University)|Jun 30, 2021

Generative Adversarial Networks and Image Synthesis被引用数 9

ひとこと要約

本稿では、変分オートエンコーダーの局所的収縮性を利用し、学習済み表現の因果構造を調査するためのフレームワーク「ラティントレスポンス」を提案する。潜在空間における干渉を適用することで、潜在変数間の関係を定量化し、因果的関連（すなわち、偶然の相関とは異なる）を評価するための因果的分離スコア（Causal Disentanglement Score, CDS）を導入している。CDSは、従来の統計的相関に基づく指標が抱える問題を回避しつつ、既存の指標と強く相関していることが示されている。

ABSTRACT

Autoencoders exhibit impressive abilities to embed the data manifold into a low-dimensional latent space, making them a staple of representation learning methods. However, without explicit supervision, which is often unavailable, the representation is usually uninterpretable, making analysis and principled progress challenging. We propose a framework, called latent responses, which exploits the locally contractive behavior exhibited by variational autoencoders to explore the learned manifold. More specifically, we develop tools to probe the representation using interventions in the latent space to quantify the relationships between latent variables. We extend the notion of disentanglement to take the learned generative process into account and consequently avoid the limitations of existing metrics that may rely on spurious correlations. Our analyses underscore the importance of studying the causal structure of the representation to improve performance on downstream tasks such as generation, interpolation, and inference of the factors of variation.

研究の動機と目的

• 自己教師あり表現学習における解釈可能性の課題に取り組む。ここでは、教師なしで分離可能ではあるが解釈不能な表現が学習される。
• 統計的相関を越えて、潜在変数と変動要因の間の因果的関係を同定するツールを開発する。
• 学習された多様体の因果幾何構造を理解することで、生成、補間、推論などの下流タスクを改善する。
• 真のラベルを必要としない診断フレームワークを提供することで、現実世界および合成データの両方の分析を可能にする。
• 因果的関係に焦点を当てることで、偶然の相関に依存する既存の分離指標の限界を克服する。

提案手法

• フレームワークは、潜在空間における局所的干渉を用い、ある潜在変数の変化が再構成データに与える影響を推定し、これを「ラティントレスポンス」として定量化する。
• 潜在空間におけるデータ多様体の外部曲率を推定することで、意味的に意味のある補間を可能にし、幾何的構造を評価する。
• 因果的分離スコア（CDS）は、既知の変動要因を条件として干渉を施し、因果的影響を測定することで算出される。これは相関に基づく指標とは明確に区別される。
• 本手法は、VAEの局所的収縮性に依存しており、潜在空間における微小な摂動が再構成データに予測可能で滑らかな変化を引き起こすことに基づく。
• 干渉効果から応答行列と因果グラフを構築し、潜在次元間の依存関係や親子関係を可視化する。
• 本手法は、既知の変動要因を有する合成データセット（例：3D-Shapes）に適用され、真のラベルとの照合が可能になる。

実験結果

リサーチクエスチョン

• RQ1 変分オートエンコーダーの潜在空間において、因果的関係と偶然の相関をどのように区別できるか？
• RQ2 既存の分離指標が統計的相関に依存するがゆえに、どの程度失敗するのか？
• RQ3 干渉に基づく分析は、相関が誤解を招く場合でも、潜在変数の真の因果グラフを明らかにできるか？
• RQ4 因果的分離スコア（CDS）は、DCI-Dのような標準的指標と比較して、意味のある分離を同定する上でどれほど優れているか？
• RQ5 ラティントレスポンス分析により、データ多様体の真の幾何的・因果的構造を捉えることで、補間および生成の品質が向上するか？

主な発見

• 因果的分離スコア（CDS）は他の分離指標と強く相関しているが、偶然の相関を回避する点でDCI-D指標を一貫して上回っている。
• 3D-Shapesデータセットにおいて、潜在次元20が次元4の因果的親であることが特定された。これは『スケール』要因と誤って相関していたが、相関に基づく指標では見過ごされていた関係である。
• 条件付き応答行列は、次元4ではなく次元20が『スケール』要因に影響を与えていることを正しく同定した。これは、相関ベースの手法が捉えられない因果的鎖を明らかにしている。
• ラティントレスポンス行列と導出された因果グラフにより、次元20の干渉が中間の潜在変数を通じて『スケール』および『形状』に影響を与える多段階の因果的影響が明らかになった。
• 本フレームワークは、床の色が次元16および22にのみ因果的に影響を受けることを正しく同定し、因果的構造推論の正しさを裏付けた。
• 軸に沿った構造を持つ分離表現に対してはスケーリングが良好であるが、高精細で高次元の生成モデルでは計算上の制限に直面する。