[论文解读] Temporally Disentangled Representation Learning

Weiran Yao, Guangyi Chen+1 more|arXiv (Cornell University)|Oct 24, 2022

Domain Adaptation and Few-Shot Learning被引用 8

一句话总结

该论文提出时序解耦表征学习（TDRL），一种框架，在固定因果动态和分布偏移的条件下，通过识别非参数化、时滞的潜在因果变量，从序列数据中学习非参数化、时序解耦的表征，适用于平稳与非平稳条件。通过将分布偏移分解为转移变化与观测变化，该方法实现了优越的解耦性能，优于忽略时序因果结构的基线方法。

ABSTRACT

Recently in the field of unsupervised representation learning, strong identifiability results for disentanglement of causally-related latent variables have been established by exploiting certain side information, such as class labels, in addition to independence. However, most existing work is constrained by functional form assumptions such as independent sources or further with linear transitions, and distribution assumptions such as stationary, exponential family distribution. It is unknown whether the underlying latent variables and their causal relations are identifiable if they have arbitrary, nonparametric causal influences in between. In this work, we establish the identifiability theories of nonparametric latent causal processes from their nonlinear mixtures under fixed temporal causal influences and analyze how distribution changes can further benefit the disentanglement. We propose extbf{ exttt{TDRL}}, a principled framework to recover time-delayed latent causal variables and identify their relations from measured sequential data under stationary environments and under different distribution shifts. Specifically, the framework can factorize unknown distribution shifts into transition distribution changes under fixed and time-varying latent causal relations, and under observation changes in observation. Through experiments, we show that time-delayed latent causal influences are reliably identified and that our approach considerably outperforms existing baselines that do not correctly exploit this modular representation of changes. Our code is available at: \url{https://github.com/weirayao/tdrl}.

研究动机与目标

• 建立在固定动态下，对具有任意时滞转移的非参数化潜在因果过程的可识别性条件。
• 分析分布偏移（如噪声或转移动态的变化）如何在平稳与非平稳环境中提升可识别性。
• 开发一种系统性框架，将分布偏移分解为转移变化与观测变化，以实现鲁棒的潜在变量恢复。
• 在无需先验知识（如线性或指数族分布）的前提下，实现对因果相关潜在过程的恢复。
• 通过显式建模时滞因果影响，超越假设独立性或线性动态的现有方法。

提出的方法

• 该框架采用基于变分自编码器（VAE）的架构，结合双向推理网络，以估计潜在序列的后验分布。
• 非线性转移先验网络用于建模潜在变量的逆动态，估计残差并计算雅可比行列式，以支持归一化流。
• 分布偏移被模块化地分解为转移动态变化（如质量、重力）与观测噪声变化，实现解耦分解。
• 模型利用历史信息作为辅助信息，并通过动态与观测的变更多因素来利用非平稳性，提升可识别性。
• 采用因子化推理网络与重参数化技术，实现可微采样与基于ELBO目标的端到端训练。
• 通过ELBO损失选择潜在维度大小与最大时滞等超参数，以确保模型鲁棒性与高重建质量。

实验结果

研究问题

• RQ1 在何种条件下，可从观测变量的非线性混合中识别出非参数化、时滞的潜在因果过程？
• RQ2 在平稳环境中，分布偏移（如噪声或转移强度的变化）如何增强可识别性？
• RQ3 分布偏移能否被模块化地分解为转移动态与观测过程的独立变化，以提升解耦性能？
• RQ4 所提出的框架如何超越假设独立性、线性性或参数化噪声分布的现有方法？
• RQ5 在时变动态（如边切换或影响强度变化）下，该框架能否恢复因果相关的潜在过程？

主要发现

• TDRL 在平稳与非平稳环境中均成功识别出时滞潜在因果变量，且无需假设线性或独立源。
• 与 PCL、GCL、SlowVAE 和 SNICA 等基线方法相比，该框架在非线性转移设置下实现了显著更高的解耦性能。
• 分布偏移被有效分解为转移动态与观测噪声的独立变化，从而实现更精确且模块化的表征学习。
• 由于过参数化与鲁棒的超参数选择，即使真实潜在维度未知，模型仍能保持高重建质量与解耦性能。
• 实证结果表明，TDRL 在合成数据与真实世界视频数据集上均优于现有方法，MCC（最大编码率降低）得分更高。
• 消融研究证实，建模时滞因果影响至关重要，移除该组件将导致性能显著下降。