[논문 리뷰] Causal Feature Learning for Utility-Maximizing Agents

David Kinney, David Watson|arXiv (Cornell University)|2020. 05. 18.

Bayesian Modeling and Causal Inference참고 문헌 17인용 수 7

한 줄 요약

이 논문은 원래의 인과적 특징 학습(CFL)을 확장한 실용적 인과적 특징 학습(PCFL)을 제안한다. PCFL은 공역 과정에 에이전트 특화의 유틸리티 함수를 통합하여, 확률적 동치성 외에도 기대 유틸리티를 고려함으로써 잘못된 군집화를 방지한다. 원래의 CFL은 단지 확률적 동치성에 의존하지만, PCFL은 기대 유틸리티를 기반으로 매크로변수를 구성함으로써 실용적 목적이 요구하는 더 세분화된 구분이나 더 군집화된 그룹화를 가능하게 한다.

ABSTRACT

Discovering high-level causal relations from low-level data is an important and challenging problem that comes up frequently in the natural and social sciences. In a series of papers, Chalupka et al. (2015, 2016a, 2016b, 2017) develop a procedure for causal feature learning (CFL) in an effort to automate this task. We argue that CFL does not recommend coarsening in cases where pragmatic considerations rule in favor of it, and recommends coarsening in cases where pragmatic considerations rule against it. We propose a new technique, pragmatic causal feature learning (PCFL), which extends the original CFL algorithm in useful and intuitive ways. We show that PCFL has the same attractive measure-theoretic properties as the original CFL algorithm. We compare the performance of both methods through theoretical analysis and experiments.

연구 동기 및 목표

• 매크로변수 공역 과정에서 에이전트의 실용적 관심사를 반영하지 못하는 인과적 특징 학습(CFL)의 한계를 해결하기 위해.
• 실용적 목적이 고려되지 않을 경우 CFL이 잘못된 군집화—과도한 군집화 또는 과소 군집화—를 초래할 수 있음을 보여주기 위해.
• 측도 이론적 안정성을 유지하면서도 매크로변수 구성이 기대 유틸리티 최적화와 일치하도록 체계적인 방법을 개발하기 위해.
• 일반 조건 하에서 새로운 방법인 PCFL이 원래의 CFL과 동일한 르베그 측도 0 성질을 유지함으로써 매개변수 변화에 대해 안정적임을 보여주기 위해.

제안 방법

• PCFL은 인과-영향 쌍의 가치를 측정하는 유틸리티 함수 $ u(c_k, e_i) $ 를 도입하여 유틸리티 기반의 공역 결정을 가능하게 함으로써 CFL을 확장한다.
• 해결책은 기대 유틸리티 동치성에 의해 결정되는 등가류를 기반으로 하며, 단지 확률적 불구별성 외에도 기대 유틸리티 동치성에 의해 결정되는 유틸리티 가중 간섭 분포를 정의한다.
• 혼란 변수 $ \boldsymbol{\beta}^* $, 간섭 $ \boldsymbol{i}^* $, 사전 가중치 $ \boldsymbol{\beta} $ 의 공동 분포를 정의하고, 특성 함수 $ \theta $ 를 사용하여 유틸리티 기반 공역과 확률 기반 공역이 다를 수 있는 측도 0 집합을 식별한다.
• 핵심 메커니즘은 기대 유틸리티가 모든 영향 $ e_i $ 에 대해 동일한 경우에만 성립하는 수정된 등가관계 $ c_j \sim_{\text{opc}} c_k $ 를 $ E $ 와 관련지어 정의한다. 이는 동일한 간섭 확률이 아닌 동일한 기대 유틸리티를 기반으로 한다.
• 이론적 분석을 통해 유틸리티 기반 공역과 확률 기반 공역이 다를 수 있는 매개변수 구성의 집합이 르베그 측도 0임을 증명함으로써, 원래의 CFL 프레임워크의 안정성을 유지함을 보여준다.
• 알고리즘 절차는 유틸리티 가중 간섭 분포 하에서 등가류를 구하는 방식으로, $ \boldsymbol{i}^* $, $ \boldsymbol{β}^* $, 및 $ \boldsymbol{γ} $ 의 반복적 정밀화를 통해 PCFL 공역을 계산한다.

실험 결과

연구 질문

• RQ1 공역 과정에 에이전트 특화의 유틸리티 함수를 통합함으로써 인과적 특징 학습을 향상시킬 수 있는가?
• RQ2 표준 CFL이 실용적 고려가 부족하여 실패하는 경우는 언제이며, 이러한 실패는 체계적으로 어떻게 수정할 수 있는가?
• RQ3 유틸리티를 공역에 통합함으로써 원래의 CFL 방법의 측도 이론적 안정성이 유지되는가?
• RQ4 대표성 정확도와 의사결정 유틸리티 측면에서 유틸리티 기반 공역은 확률 기반 공역보다 어떻게 다른가?
• RQ5 유틸리티 기반 공역과 확률 기반 공역이 다를 수 있는 조건은 무엇이며, 이러한 경우는 실제로 얼마나 흔한가?

주요 결과

• PCFL은 CFL의 두 가지 주요 오류를 피한다: 서로 다른 기대 유틸리티를 낳는 원인이 서로 다른 것으로 유지되어야 할 경우의 군집화, 그리고 유틸리티 하에서 기능적으로 동치인 원인이 분리되어 있는 경우의 군집화 실패.
• 유틸리티 기반 공역과 확률 기반 공역이 다를 수 있는 매개변수 구성의 집합은 르베그 측도 0이므로, 일반적인 맥락에서 이러한 불일치는 무시할 만하다.
• 이론적 프레임워크는 원인 값의 기대 유틸리티가 간섭에 대해 불변임이 간섭 분포가 동일할 때이고 그 경우에만 성립함을 보여주며, 병적인 경우를 제외한 비병리적 상황에서 확률적 동치성과 일관성을 유지한다.
• 실험 결과는 PCFL이 기대 유틸리티의 차이가 크지만 간섭 분포는 동일한 경우에 에이전트 목표와 더 잘 일치하는 공역을 생성함을 보여준다.
• 측도 이론적 특성은 새로운 유틸리티 가중 등가관계 하에서도 그대로 유지되므로, PCFL은 CFL과 동일한 수학적 안정성을 유지한다.
• 오카모토의 보조정리에 기반한 대수적 증명은 유틸리티 기반 제약 조건이 비자명할 경우 불일치 집합이 측도 0임을 확인함으로써, 이러한 예외의 실용적 무의미성을 검증한다.