[論文レビュー] Multi-View Causal Representation Learning with Partial Observability

Dingling Yao, Danru Xu+6 more|arXiv (Cornell University)|Nov 7, 2023

Domain Adaptation and Few-Shot Learning被引用数 6

ひとこと要約

本稿は、部分的観測下における多視点因果表現学習の統一的枠組みを提案する。各視点は潜在変数の部分集合しか観測しない。1視点ごとに1つのエンコーダーを用いた対照的学習により、任意の視点の部分集合間で共有される情報が滑らかな双射の意味で同定可能であり、非線形ICA、分離性、因果表現学習に関する先行研究をより弱い仮定の下で一般化・拡張する。

ABSTRACT

We present a unified framework for studying the identifiability of representations learned from simultaneously observed views, such as different data modalities. We allow a partially observed setting in which each view constitutes a nonlinear mixture of a subset of underlying latent variables, which can be causally related. We prove that the information shared across all subsets of any number of views can be learned up to a smooth bijection using contrastive learning and a single encoder per view. We also provide graphical criteria indicating which latent variables can be identified through a simple set of rules, which we refer to as identifiability algebra. Our general framework and theoretical results unify and extend several previous works on multi-view nonlinear ICA, disentanglement, and causal representation learning. We experimentally validate our claims on numerical, image, and multi-modal data sets. Further, we demonstrate that the performance of prior methods is recovered in different special cases of our setup. Overall, we find that access to multiple partial views enables us to identify a more fine-grained representation, under the generally milder assumption of partial observability.

研究の動機と目的

• 複数の視点がすべての潜在変数を観測するのではなく、部分的にしか観測しない状況において因果表現を同定する課題に対処すること。
• 非線形ICA、分離性、因果表現学習に関する既存の結果を、共通の理論的枠組みで統合・拡張すること。
• 1視点ごとのエンコーダーを用いた対照的学習により、任意の視点の部分集合間で共有される情報が滑らかな双射の意味で同定可能であることを証明すること。
• 部分的観測下において、どの潜在変数が回復可能かを特定するための図的基準（「同定可能性代数」を介して）を提供すること。
• 数値的・画像的・マルチモーダルデータセット上で実験的にフレームワークを検証し、先行手法の結果が特殊ケースとして回復されることを示すこと。

提案手法

• 各視点が潜在変数の部分集合の非線形関数である多視点因果モデルを形式化する。潜在変数同士は因果関係を有することがある。
• 視点固有の混合関数に対して不変であるよう促進すると同時に、視点間で共有される情報を保持する対照的学習目的関数を導入する。
• 1視点ごとに1つのエンコーダーを用いて表現を抽出し、任意の視点部分集合間の共有情報が滑らかな双射の意味で同定可能である。
• 条件付き独立性とd-分離に基づく図的ルールの集合としての「同定可能性代数」を構築し、どの潜在変数が同定可能かを決定する。
• 2段階のサンプリングプロセスを用いる：潜在変数は分布から抽出され、その後、視点固有の非線形関数を介して混合され、観測値が得られる。
• 本フレームワークを用いて、von Kügelgen et al. (2021) や Daunhawer et al. (2023) の既存の結果を特殊ケースとして回復する。

実験結果

リサーチクエスチョン

• RQ1 任意の部分的観測下の複数視点間で共有される情報が、滑らかな双射の意味で同定可能となる条件は何か？
• RQ2 提案されたフレームワークは、非線形ICA、分離性、因果表現学習分野の先行結果をどのように一般化するか？
• RQ3 部分的観測下の多視点設定において、どの潜在変数が同定可能かを決定する図的基準は何か？
• RQ4 本フレームワークは、すべての視点を同時に観測する場合や独立な潜在変数を仮定する場合など、先行手法の特殊ケースを回復できるか？
• RQ5 部分的観測の仮定により、完全観測の仮定よりも、より細分化された表現学習がどの程度可能になるか？

主な発見

• フレームワークにより、任意の視点部分集合間で共有される情報が、1視点ごとのエンコーダーを用いた対照的学習により、滑らかな双射の意味で同定可能であることが証明された。
• 本手法は、von Kügelgen et al. (2021) や Daunhawer et al. (2023) の先行研究の結果を、それぞれの特殊ケースにおいて回復し、その一般性を検証した。
• 潜在因果関係を有するマルチタスク分離設定において、1,000ステップの学習で分類精度が99%に達し、従属する潜在変数に対しても頑健であることが示された。
• 同定可能性代数は、条件付き独立性と図的構造に基づいて、どの潜在変数が回復可能かを体系的に特定する手段を提供する。
• 数値的・画像的・マルチモーダルデータセットにおける実験により、複数の部分的視点へのアクセスが、先行研究の完全観測仮定よりも、より細分化された表現学習を可能にすることが確認された。
• 潜在変数のi.i.d.性および独立性の仮定を緩和することで、非線形ICAおよび分離性分野の既存結果を一般化した。