[논문 리뷰] What caused what? A quantitative account of actual causation using dynamical causal networks

Larissa Albantakis, William Marshall외 2명|arXiv (Cornell University)|2017. 08. 22.

Neural dynamics and brain function인용 수 4

한 줄 요약

이 논문은 역동적 인과망을 사용하여 이산 동적 시스템에서 실제 원인을 정량적으로 규명하는 프레임워크를 제안한다. 이는 반대 조건 추론, 시스템 간섭 및 상태 전이의 분할에 기반하며, 실현, 조합, 정보, 통합, 배제와 같은 핵심 인과 원칙을 충족시켜 다양한 인과 역설과 실제 시스템에서 실제 원인과 영향을 정밀하게 규명하고 측정할 수 있게 한다.

ABSTRACT

Actual causation is concerned with the question "what caused what?" Consider a transition between two states within a system of interacting elements, such as an artificial neural network, or a biological brain circuit. Which combination of synapses caused the neuron to fire? Which image features caused the classifier to misinterpret the picture? Even detailed knowledge of the system's causal network, its elements, their states, connectivity, and dynamics does not automatically provide a straightforward answer to the "what caused what?" question. Counterfactual accounts of actual causation based on graphical models, paired with system interventions, have demonstrated initial success in addressing specific problem cases in line with intuitive causal judgments. Here, we start from a set of basic requirements for causation (realization, composition, information, integration, and exclusion) and develop a rigorous, quantitative account of actual causation that is generally applicable to discrete dynamical systems. We present a formal framework to evaluate these causal requirements that is based on system interventions and partitions, and considers all counterfactuals of a state transition. This framework is used to provide a complete causal account of the transition by identifying and quantifying the strength of all actual causes and effects linking the two consecutive system states. Finally, we examine several exemplary cases and paradoxes of causation and show that they can be illuminated by the proposed framework for quantifying actual causation.

연구 동기 및 목표

• 인과적 구조는 알려져 있지만 실제 인과관계가 모호한 복잡한 시스템에서 '무엇이 무엇을 유도했는가?'라는 근본적인 질문에 답하기 위해.
• 통합, 배제, 정보와 같은 핵심 인과 원칙을 충족시키는 엄밀하고 정량적인 실제 인과관계의 형식화를 위해.
• 시스템 간섭에 기반한 반대 조건 추론을 통해 오랫동안 남아있던 인과 역설(예: 예비성, 지배성)을 해결하기 위해.
• 정적 그래픽 모델을 넘어서 신경망과 생물학적 회로를 포함한 다양한 시스템에 일반화 가능한 방법을 개발하기 위해.

제안 방법

• 실현, 조합, 정보, 통합, 배제와 같은 축약된 요구사항 세트를 통해 인과관계를 형식화하기 위해.
• 모든 가능한 반대 조건을 평가하기 위해 시스템 간섭과 상태 분할을 사용하기 위해.
• 효율적 정보 등 정보 이론적 측정치를 통해 인과 강도를 정량화하여 원인이 영향에 기여하는 정도를 평가하기 위해.
• 최소한의 요소 집합이 전이를 공동으로 설명하도록 분할 기반 분석을 적용하여 중복된 원인을 배제하기 위해.
• 모든 반대 조건 전이를 평가하고 가장 통합적이며 정보가 풍부한 원인-영향 쌍을 선택하여 완전한 인과적 기록을 구성하기 위해.
• 시스템 상태와 전이를 모델링하기 위해 역동적 인과망을 사용하여 신경망과 뇌 회로와 같은 실제 시스템에 적용 가능하게 하기 위해.

실험 결과

연구 질문

• RQ1 기본 인과적 구조가 알려진 이산 동적 시스템에서 실제 인과관계는 어떻게 체계적으로 정의되고 정량화할 수 있는가?
• RQ2 직관적 판단에 의존하지 않고 체계적으로 반대 조건 추론을 적용하여 실제 원인을 어떻게 규명할 수 있는가?
• RQ3 예비성, 지배성, 분리 인과성 등의 인과 역설은 어떻게 이 프레임워크로 해결할 수 있는가?
• RQ4 식별된 원인이 반드시 필요하고 통합되어 있음을 보장하기 위한 기준은 무엇인가?
• RQ5 정보와 통합을 반영하는 방식으로 실제 인과관계의 강도는 어떻게 측정할 수 있는가?

주요 결과

• 이 프레임워크는 시스템 간섭과 분할을 통해 모든 반대 조건을 평가함으로써 복잡한 전이에서 실제 원인과 영향을 성공적으로 규명한다.
• 효율적 정보를 통해 인과 강도를 정량화하여 원인이 영향의 실현에 기여하는 정도를 수치적으로 측정할 수 있다.
• 배제 및 통합 원칙을 강제 적용함으로써 전통적인 인과 역설(예: 예비성, 분리 인과성)을 해결할 수 있다.
• 신경망 동역학과 뇌 회로 전이를 포함한 다양한 예시에서 직관적인 인과 판단과 일관성을 보여준다.
• 실제 인과관계는 항상 단일 요소로 환원 가능한 것은 아니며, 종종 상호작용하는 구성 요소의 통합된 최소 부분집합에서 기인한다.
• 정적 베이지안 네트워크를 넘어서 시간에 따라 변화하는 상태와 동적 상호작용을 갖는 시스템에 대한 인과 분석이 가능하도록 일반화된다.