[論文レビュー] Disentanglement by means of action-induced representations

Gorka Muñoz-Gil, Nautrup, Hendrik Poulsen+5 more|arXiv (Cornell University)|Feb 6, 2026

Generative Adversarial Networks and Image Synthesis被引用数 0

ひとこと要約

論文は action-induced representations (AIRs) と variational AIR (VAIR) アーキテクチャを提案し、実行可能な介入を活用することで要因の分離を証明可能に行い、実験アクションに結びついた解釈可能な潜在表現を実現します。

ABSTRACT

Learning interpretable representations with variational autoencoders (VAEs) is a major goal of representation learning. The main challenge lies in obtaining disentangled representations, where each latent dimension corresponds to a distinct generative factor. This difficulty is fundamentally tied to the inability to perform nonlinear independent component analysis. Here, we introduce the framework of action-induced representations (AIRs) which models representations of physical systems given experiments (or actions) that can be performed on them. We show that, in this framework, we can provably disentangle degrees of freedom w.r.t. their action dependence. We further introduce a variational AIR architecture (VAIR) that can extract AIRs and therefore achieve provable disentanglement where standard VAEs fail. Beyond state representation, VAIR also captures the action dependence of the underlying generative factors, directly linking experiments to the degrees of freedom they influence.

研究の動機と目的

• 科学的設定における分離可能な表現の必要性を動機づけ、VAEsにおける非線形 ICA の限界と関連づける。
• action-induced representations (AIRs) と最小 AIRs (minAIRs) を定義し、潜在因子を特定のアクションに結びつける。
• VAIR：minAIRs を抽出するための action-conditioned encoding/decoding を備えた VAE の改変を開発。
• 抽象物理学、古典物理学および量子トモグラフィー実験を通じて、 VAIR がアクションに導かれた分離を達成することを示す。

提案手法

• 潜在空間 Z とアクション固有の射影 I_A を用いて AIRs を形式化し、観測出力 y_A に写す。
• サージェクティブなエンコーダと可逆なアクションデコーダを持つ minAIR を定義し、冗長さのない開放的な潜在空間を保証する。
• アクション条件付き再構成を実現するために、2つのエンコーダ E_X（x 用）と E_A（アクション用）およびデコーダ D(z,a) を備えた VAIR を提案する。
• アクション情報を組み込んだ ELBO に似た目的関数で学習し、活性ニューロン対受動的ニューロンの極性化された潜在空間を促進する。
• 定理1 を含む理論的結果を提示し、アクション集合間で共有される潜在成分が分離されることを示す。
• 抽象、古典、量子実験を横断した経験的デモンストレーションを提供し、minAIR の出現と標準 VAE よりも分離の改善を証拠づける。

実験結果

リサーチクエスチョン

• RQ1 アクション（実験）は、各観測に参加する潜在因子を制約することによって VAEs に潜在の分離を生じさせることができるか？
• RQ2 minAIR がどのような条件で生じ、アクション依存性に関して分離可能性を保証するか？
• RQ3 VAIR は AIRs を信頼性高く抽出し、標準的な VAE 変種と比べて分離を改善するか？
• RQ4 連続的なアクションや観測されていないアクション組み合わせを VAIR はどう扱うか？
• RQ5 AIRs は物理に触発されたデータや量子トモグラフィーのデータに一般化するか？

主な発見

• VAIR は最小 AIRs に近似し、アクションに関して因子の分離を理論が予測する通り達成できる。
• 2エンコーダ VAIR アーキテクチャは、アクション依存の潜在成分とアクション非依存の潜在成分を効果的に分離する。
• VAIR は抽象的な実験で、アクション関連因子の分離において標準 VAE 系より優れている。
• 古典的物理実験では、 VAIR は質量や電荷などの物理量に対応する意味のある潜在因子を、さまざまなアクション下で回収する。
• 量子トモグラフィーのデータにおいて、 VAIR はアクション条件付き測定の下で状態の Bloch 表現に対応する表現を学習する。
• VAIR は未知のアクション組み合わせや連続的なアクションに一般化し、堅牢なアクション条件付き分離を示す。