[논문 리뷰] Causes and Explanations: A Structural-Model Approach. Part II: Explanations

Joseph Y. Halpern, Judea Pearl|ArXiv.org|2002. 08. 20.

Bayesian Modeling and Causal Inference참고 문헌 16인용 수 37

한 줄 요약

이 논문은 구조적 방정식 모델을 사용하여 인과적 설명의 형식적 정의를 제안한다. 여기서 설명은 어떤 사실이 진실일 경우 실제 원인이 되는 것이며, 기존의 에이전트의 초기 불확실성과는 무관하다. 이 접근법은 반시가적 추론과 실제 원인의 개념을 활용하여 방향성과 설명에서 발생하는 문제적 사례를 다루며, 확률적 또는 논리적 대안보다 직관적인 사례에서 더 견고하고 지식에 민감한 프레임워크를 제공한다.

ABSTRACT

We propose new definitions of (causal) explanation, using structural equations to model counterfactuals. The definition is based on the notion of actual cause, as defined and motivated in a companion paper. Essentially, an explanation is a fact that is not known for certain but, if found to be true, would constitute an actual cause of the fact to be explained, regardless of the agent's initial uncertainty. We show that the definition handles well a number of problematic examples from the literature.

연구 동기 및 목표

• 에이전트의 지식 상태를 고려한 형식적이고 지식에 민감한 인과적 설명의 정의를 제공하는 것.
• 기존에 오랫동안 해결되지 않은 문제들, 예를 들어 방향성 문제(예: 기둥 높이 vs. 그림자 길이)를 구조적 인과 모델을 통해 해결하는 것.
• 제1부에서 제시된 실제 원인의 정의를 확장하여, 확실하게 알려지지 않은 사실이지만 진실일 경우 원인이 되는 설명을 지원하는 것.
• 확률적 추론을 설명에 통합하여 부분적 설명과 설명력 평가를 가능하게 하는 것.
• 확률적 의존성이나 논리적 함의에 의존하지 않는 방식으로 설명을 형식화함으로써 인과적 방향성을 유지하는 것.

제안 방법

• 기계를 나타내기 위해 서명(U, V, R)과 구조적 방정식 F_X로 정의된 구조적 인과 모델을 사용한다.
• 제1부에서 제시된 반시가적 및 간섭 기반의 실제 원인의 형식적 정의를 적용하여, 설명이 진실일 경우 어떤 것이 원인이 되는지를 식별한다.
• 설명을 사실 ψ로 정의하며, ψ가 진실일 경우 설명 대상 φ의 실제 원인이 되며, 초기에는 불확실하더라도 이를 고려하지 않는다.
• 확률적 확장으로 Pr([X←3](Y=1)) = .9과 같은 문장을 允허하여 부분적 설명과 설명력 평가를 가능하게 한다.
• 변수의 분할(Z, W)을 사용하여 반시가적 안정성과 최소성의 검증을 수행함으로써, 필수적인 요소들만 고려하도록 보장한다.
• 설명을 에이전트의 지식에 상대적으로 취급한다: 알려진 사실은 설명의 일부가 아니며, 알려지지 않은 인과 모델은 포함될 수 있다.

실험 결과

연구 질문

• RQ1 에이전트가 설명하고자 하는 사실을 모를 경우, 어떤 것이 유효한 인과적 설명이 되는가?
• RQ2 인과 관계의 방향성을 존중하는 방식으로 설명을 정의할 수 있는가? 예를 들어, 기둥의 높이로 그림자 길이를 설명할 수는 있지만 그 반대는 불가능하다.
• RQ3 인과 모델이 완전히 알려지지 않은 상황에서 설명을 어떻게 형식화할 수 있으며, 이는 설명의 적합성에 어떤 영향을 미치는가?
• RQ4 확률적 정보를 통합할 경우, 설명이 통계적 관련성이나 의존성으로 환원되지 않도록 하는가?
• RQ5 에이전트가 이미 인과적 이야기의 일부(예: 메커니즘 또는 증거)를 알고 있는 경우, 설명의 정의는 어떻게 다루는가?

주요 결과

• 반시가적 의존성 덕분에 이 정의는 기둥 높이가 그림자 길이를 설명하고 반대로 그렇지 않음을 정확히 식별함으로써 기둥-그림자 예제를 성공적으로 다룬다.
• 에이전트의 지식 상태에 따라 설명을 구분함: 메커니즘은 안다만 노출에 대해서는 모른다면, 노출가 설명이 되며 메커니즘은 아님.
• 최소성과 간섭을 통해 잘 정의된 실제 원인 프레임워크를 활용함으로써 합집합 원인 문제를 피함.
• 확률적 통합 덕분에 '확률 .9로 아스ベスト 노출이 폐암을 유발한다'와 같은 부분적 설명이 가능해지며, 간섭 확률을 사용해 형식적으로 기록된다.
• 설명력의 정의는 설명이 올바를 확률을 통해 형식화되어, 가르덴포르의 프레임워크와 일치하지만 인과적 구조에 기반한다.
• 논리적 함의나 통계적 의존성에 의존하지 않아 인과적 방향성을 유지하며, 다른 접근법이 애초에 애매하게 다루는 사례를 해결한다.