[논문 리뷰] Incorporating Knowledge into Structural Equation Models using Auxiliary Variables

Bryant Chen, Judea Pearl외 1명|arXiv (Cornell University)|2015. 11. 10.

Bayesian Modeling and Causal Inference참고 문헌 19인용 수 12

한 줄 요약

이 논문은 알려진 비영인 계수를 통합함으로써 구조적 방정식 모델 식별을 향상시키기 위해 보조 변수를 도입한다. 이를 통해 기존의 방법들인 도구변수법과 하프트레크 기준과 같은 식별 기법을 통해 더 많은 모델을 식별할 수 있다. 식별된 계수를 반복적으로 사용하여 직접 효과를 상쇄하는 보조 변수를 생성함으로써, 일반화된 하프트레크 기준과 동일한 식별 능력을 달성한다. 이는 외부 지식이 아닌 데이터 기반 계수 추정에만 의존한다.

ABSTRACT

In this paper, we extend graph-based identification methods by allowing background knowledge in the form of non-zero parameter values. Such information could be obtained, for example, from a previously conducted randomized experiment, from substantive understanding of the domain, or even an identification technique. To incorporate such information systematically, we propose the addition of auxiliary variables to the model, which are constructed so that certain paths will be conveniently cancelled. This cancellation allows the auxiliary variables to help conventional methods of identification (e.g., single-door criterion, instrumental variables, half-trek criterion), as well as model testing (e.g., d-separation, over-identification). Moreover, by iteratively alternating steps of identification and adding auxiliary variables, we can improve the power of existing identification methods via a bootstrapping approach that does not require external knowledge. We operationalize this method for simple instrumental sets (a generalization of instrumental variables) and show that the resulting method is able to identify at least as many models as the most general identification method for linear systems known to date. We further discuss the application of auxiliary variables to the tasks of model testing and z-identification.

연구 동기 및 목표

• 비영인 매개변수 값의 형태로 배경 지식을 통합함으로써 선형 구조적 방정식 모델에서 그래프 기반 식별을 확장하는 것.
• 기존의 식별 및 모델 검증 기법에 이러한 지식을 체계적으로 통합하는 방법을 개발하는 것.
• 추정된 계수로부터 반복적으로 보조 변수를 생성함으로써 식별 방법의 능력을 향상시키고, 이전에 식별되지 않았던 매개변수를 식별할 수 있도록 하는 것.
• 제안된 보팅 기반 방법이 보조 변수를 사용할 때 일반화된 하프트레크 기준과 동일한 식별 능력을 달성함을 보여주는 것.
• 보조 변수의 적용 범위를 표준 그래픽 기준을 초월해 모델 검증 및 z-식별 작업으로 확장하는 것.

제안 방법

• 직접 효과를 상쇄시키기 위해 보조 변수 $ z^* = z - \alpha w $ 를 도입하며, 여기서 $ \alpha $ 는 알려진 계수이다.
• 보조 노드 $ z^* $ 와 계수 1 및 $ -\alpha $ 를 가진 방향성 간선을 추가하여 증강된 그래프 $ G^{E+} $ 를 구성함으로써 경로 상쇄를 가능하게 한다.
• 증강된 모델에서 $ z^* $ 를 통한 배경 경로 상쇄를 통해, 원래 경로가 차단되어도 도구 집합 조건을 만족시킬 수 있도록 한다.
• 보팅 절차를 적용한다: 도구 집합을 통해 계수를 식별하고, 보조 변수를 생성하며, 이를 반복함으로써 새로운 식별 기회를 열어낸다.
• 증강된 모델에서 d-분리 및 과잉식별과 같은 그래픽 기준을 활용하여 모델의 함의를 테스트한다.
• 일반화된 하프트레크 기준(g-HTC)을 포함하는 것으로 보여줌으로써, 이 방법이 g-HTC보다 더 일반적인 식별 기법임을 증명한다.

실험 결과

연구 질문

• RQ1 알려진 비영인 계수를 체계적으로 구조적 방정식 모델에 통합하여 식별 능력을 향상시킬 수 있는가?
• RQ2 직접 효과를 상쇄함으로써 보조 변수를 사용해 비도구변수를 유효한 도구변수로 전환할 수 있는가?
• RQ3 보조 변수를 사용한 반복적 보팅 절차가 도구 집합 방법의 식별 능력을 향상시키는가?
• RQ4 제안된 방법이 알려진 가장 일반적인 방법—일반화된 하프트레크 기준과 동일한 식별 능력을 달성할 수 있는가?
• RQ5 보조 변수를 사용해 표준 그래픽 기준을 초월해 모델 검증 및 z-식별 작업을 확장할 수 있는가?

주요 결과

• 제안된 보조 변수 방법은 현재까지 알려진 선형 시스템에 대해 가장 일반적인 식별 방법인 일반화된 하프트레크 기준과 동일하거나 더 많은 모델을 식별할 수 있다.
• 추정된 계수를 반복적으로 사용하여 보조 변수를 생성함으로써 직접 효과를 상쇄함으로써, 이전에 식별되지 않았던 계수도 식별할 수 있다.
• 보조 변수의 추가는 증강된 모델에서 d-분리 및 과잉식별 테스트의 타당성을 유지하므로 일관된 모델 테스트가 가능하다.
• 이론적 결과로, 일반화된 하프트레크 기준으로 식별 가능한 모든 모델이 보조 변수 접근법을 통해도 식별 가능하다는 것이 입증되었으며, 이는 방법의 완전성을 보여준다.
• 경로 상쇄 메커니즘은 오직 문제를 일으키는 경로들(예: 혼란요인을 포함하는 경로들)에만 영향을 주며, 새로운 가짜 경로는 차단되거나 식별에 영향을 주지 않는다.
• Shardell(2015)의 이전 연구를 일반화하며, 직접 효과를 제거하여 도구의 유효성을 복원하는 아이디어를 구현한다.