[논문 리뷰] A Meta-Transfer Objective for Learning to Disentangle Causal Mechanisms

Yoshua Bengio, Tristan Deleu외 6명|arXiv (Cornell University)|2019. 01. 30.

Bayesian Modeling and Causal Inference참고 문헌 21인용 수 122

한 줄 요약

논문은 적응 속도를 최적화하는 메타-학습 목적을 제시하여 분포 변화에 대한 적응을 빠르게 하여 인과 구조를 발견하고 인과 메커니즘을 분리한 표현을 학습합니다. 또한 희소 분포 변화 하에서 올바른 인과 모델이 더 빠르게 적응함을 보이고, 관측으로부터 인과 변수를 복원하는 인코더를 포함한 매끄럽고 엔드 투 엔드 파라메트릭 접근법을 도입합니다.

ABSTRACT

We propose to meta-learn causal structures based on how fast a learner adapts to new distributions arising from sparse distributional changes, e.g. due to interventions, actions of agents and other sources of non-stationarities. We show that under this assumption, the correct causal structural choices lead to faster adaptation to modified distributions because the changes are concentrated in one or just a few mechanisms when the learned knowledge is modularized appropriately. This leads to sparse expected gradients and a lower effective number of degrees of freedom needing to be relearned while adapting to the change. It motivates using the speed of adaptation to a modified distribution as a meta-learning objective. We demonstrate how this can be used to determine the cause-effect relationship between two observed variables. The distributional changes do not need to correspond to standard interventions (clamping a variable), and the learner has no direct knowledge of these interventions. We show that causal structures can be parameterized via continuous variables and learned end-to-end. We then explore how these ideas could be used to also learn an encoder that would map low-level observed variables to unobserved causal variables leading to faster adaptation out-of-distribution, learning a representation space where one can satisfy the assumptions of independent mechanisms and of small and sparse changes in these mechanisms due to actions and non-stationarities.

연구 동기 및 목표

• 학습자가 분포 변화(개입, 행동, 비정상성)에 얼마나 빨리 적응하는지에 따라 인과 구조 학습의 동기를 부여합니다.
• 모듈화된 지식을 갖출 때 올바른 인과 메커니즘이 희소한 그래디언트 업데이트로 이어지고 더 빠른 적응으로 연결된다는 것을 보여줍니다.
• 관측을 잠재적 인과 변수로 매핑하는 인코더와 인과 그래프의 엔드-투 엔드 학습을 시연합니다.
• 원시 관측치를 잠재 인과 변수로 매핑하는 인코더를 학습하는 방법을 탐구하여 분포 외 적응을 개선합니다.

제안 방법

• 조건부 분포에 해당하는 모듈식 구성요소 중에서 선택하는 방식으로 인과 구조 학습을 공식화합니다(예: P(A), P(B|A), P(B), P(A|B)).
• 분포 이동을 반영하는 전송 분포를 정의하고 SGD 하의 적응 동역학을 분석하여 더 빠른 적응을 통해 올바른 인과 방향을 밝힙니다.
• 구조적 매개변수 gamma를 사용하여 인과 그래프의 간선 존재 여부에 대한 매끈한 매개화를 도입하고, 올바른 간선 방향(A→B 대 B→A)을 향해 gamma를 밀어 올리는 기울기를 도출합니다.
• 원시 관측치를 잠재 변수로 매핑하는 인코더 E가 있는 표현 학습 설정으로 확장하여 독립 메커니즘 가정과 희소 변화를 보유한 공간에서 학습을 가능하게 합니다.
• MAML 유사 절차에 비견되는 내부 루프(모듈 파라미터를 적응시키고)와 외부 루프( gamma 및 인코더 파라미터를 업데이트)를 포함하는 메타 학습 루프를 제공합니다.

실험 결과

연구 질문

• RQ1 분포 변화 하에서의 적응 속도가 두 변수 사이의 진짜 인과 방향을 드러낼 수 있는가?
• RQ2 두 변수 사례를 넘겨 확장하기 위해 인과 그래프 구조를 미분 가능하게 매개화하고 학습하는 방법은?
• RQ3 인코더가 원시 관측치를 잠재 인과 변수로 매핑하도록 학습하여 독립 메커니즘과 희소 변화 가정이 성립하고 전이 성능을 향상시킬 수 있는가?
• RQ4 제안된 메타-전이 목적이 다양한 데이터 모듈(이산/연속, 선형/비선형 관계)에 걸친 전이 에피소드에서 더 빠른 적응 학습과 일치하는가?

주요 결과

• 올바른 인과 모델은 잘못된 모델보다 전이 분포에 더 빨리 적응하며, 가장 정보가 많은 신호는 초기 적응 단계에 있다.
• 매개변수 개수 계산으로 희소한 분포 변화 하에서 올바른 모델이 재학습에 더 적은 매개변수가 필요하다는 것을 설명하여 더 빠른 전이를 이끈다.
• 매끄러운 구조 매개변수 gamma 프레임워크가 기울기 기반 최적화를 통해 올바른 방향으로의 엔드-투-엔드 인과 그래프 학습을 가능하게 한다.
• 실험은 gamma가 이산 및 연속 시나리오 전반에서 단순/복합 모듈레이터를 사용하더라도 진짜 인과 방향을 선호하도록 수렴한다는 것을 보여준다.
• 관측치를 잠재 변수로 매핑하는 인코더가 실제 인과 변수를 복원하고 전이 중 올바른 인과 그래프의 이점을 유지할 수 있다.