[논문 리뷰] Temporally Disentangled Representation Learning

Weiran Yao, Guangyi Chen외 1명|arXiv (Cornell University)|2022. 10. 24.

Domain Adaptation and Few-Shot Learning인용 수 8

한 줄 요약

이 논문은 고정된 인과적 역학과 분포 이탈을 활용하여 정적 및 비정적 조건 하에서 순차적 자료로부터 비모수적이고 시간 지연된 잠재 인과 변수를 식별하는 Temporally Disentangled Representation Learning (TDRL) 프레임워크를 제안한다. 분포 이탈을 전이 및 관측 변화로 분해함으로써 기존의 시간적 인과적 구조를 忽시하는 보조 모델들보다 뛰어난 분리 성능을 달성한다.

ABSTRACT

Recently in the field of unsupervised representation learning, strong identifiability results for disentanglement of causally-related latent variables have been established by exploiting certain side information, such as class labels, in addition to independence. However, most existing work is constrained by functional form assumptions such as independent sources or further with linear transitions, and distribution assumptions such as stationary, exponential family distribution. It is unknown whether the underlying latent variables and their causal relations are identifiable if they have arbitrary, nonparametric causal influences in between. In this work, we establish the identifiability theories of nonparametric latent causal processes from their nonlinear mixtures under fixed temporal causal influences and analyze how distribution changes can further benefit the disentanglement. We propose extbf{ exttt{TDRL}}, a principled framework to recover time-delayed latent causal variables and identify their relations from measured sequential data under stationary environments and under different distribution shifts. Specifically, the framework can factorize unknown distribution shifts into transition distribution changes under fixed and time-varying latent causal relations, and under observation changes in observation. Through experiments, we show that time-delayed latent causal influences are reliably identified and that our approach considerably outperforms existing baselines that do not correctly exploit this modular representation of changes. Our code is available at: \url{https://github.com/weirayao/tdrl}.

연구 동기 및 목표

• 고정된 역학 하에서 임의의 시간 지연 전이를 갖는 비모수적 잠재 인과 과정의 식별 조건을 수립하기 위해.
• 소음 또는 전이 역학의 변화와 같은 분포 이탈이 정적 및 비정적 환경에서 식별 가능성에 어떻게 기여하는지 분석하기 위해.
• 안정성 있는 잠재 변수 복원을 위한 원칙적인 프레임워크를 개발하기 위해, 분포 이탈을 전이 변화와 관측 변화로 분리 요소화하기 위해.
• 선형성 또는 지수족 분포와 같은 매개수 형태의 사전 지식 없이도 인과적으로 관련된 잠재 과정을 복원할 수 있도록 하기 위해.
• 독립성 또는 선형 역학을 가정하는 기존 방법들을 능가하기 위해, 명시적으로 시간 지연된 인과적 영향을 모델링함으로써 성능 향상을 이루기 위해.

제안 방법

• 잠재 시퀀스의 사후 분포를 추정하기 위해 양방향 추론 네트워크를 갖춘 VAE 기반 아키텍처를 사용한다.
• 비선형 전이 사전 네트워크가 잠재 변수의 역동적 역학을 모델링하고 잔차를 추정하며, 정규화 플로우를 위한 자코비안 행렬식을 계산한다.
• 분포 이탈은 전이 역학(예: 질량, 중력)의 변화와 관측 노이즈의 변화로 모oduляр하게 분해되어, 분리된 인과적 인자화를 가능하게 한다.
• 모델은 과거 자료를 보조 정보로 활용하고, 전이 및 관측의 변화 요인을 통해 비정적성을 활용함으로써 식별 가능성 향상을 도모한다.
• 재파arameterization를 갖춘 분리된 추론 네트워크는 미분 가능한 샘플링과 ELBO 목적함수를 통한 엔드 투 엔드 훈련을 가능하게 한다.
• 잠재 차원 수 및 최대 시간 지연과 같은 하이퍼파rameter는 ELBO 손실을 통해 선택되어 안정성과 높은 재구성 품질을 확보한다.

실험 결과

연구 질문

• RQ1 비선형 관측 변수 혼합물로부터 비모수적이고 시간 지연된 잠재 인과 과정이 식별 가능한 조건은 무엇인가?
• RQ2 정적 환경에서 소음 또는 전이 강도의 변화와 같은 분포 이탈은 식별 가능성에 어떻게 기여하는가?
• RQ3 분포 이탈은 전이 역학과 관측 과정의 변화로 모듈러하게 분해될 수 있는가? 이를 통해 분리 성능가 향상될 수 있는가?
• RQ4 제안된 프레임워크는 독립성, 선형성 또는 매개수 노이즈 분포를 가정하는 기존 방법보다 어떻게 뛰어나게 되는가?
• RQ5 시간에 따라 변화하는 역학, 예를 들어 간선의 스위칭이나 영향력 강도의 변화가 있는 상황에서도 인과적으로 관련된 잠재 과정을 복원할 수 있는가?

주요 결과

• TDRL은 선형성이나 독립성 원천을 가정하지 않고도 정적 및 비정적 환경 모두에서 시간 지연된 잠재 인과 변수를 성공적으로 식별한다.
• 특히 비선형 전이가 존재하는 설정에서 PCL, GCL, SlowVAE, SNICA와 같은 기존 보조 모델들보다 유의미하게 높은 분리 성능를 달성한다.
• 분포 이탈은 전이 역학과 관측 노이즈의 변화로 효과적으로 분리되어 더 정확하고 모듈러한 표현 학습이 가능해진다.
• 진짜 잠재 차원이 알려져 있지 않은 경우에도 과다 매개수화와 강력한 하이퍼파rameter 선택 덕분에 높은 재구성 품질과 분리 성능를 유지한다.
• 실험 결과 TDRL은 합성 및 실세계 영상 데이터셋에서 기존 방법들을 능가하며, 더 높은 MCC(최대 코드 레이트 감소) 점수를 기록한다.
• 절단 실험 결과 시간 지연된 인과적 영향을 모델링하는 것이 핵심임을 확인하였으며, 이 요소를 제거할 경우 성능 저하가 심각하게 발생한다.