[论文解读] What caused what? A quantitative account of actual causation using dynamical causal networks

Larissa Albantakis, William Marshall+2 more|arXiv (Cornell University)|Aug 22, 2017

Neural dynamics and brain function被引用 4

一句话总结

本文提出了一套定量框架，通过基于反事实推理、系统干预和状态转移划分的动态因果网络，用于在离散动力系统中识别实际原因。该框架满足核心因果原则——实现性、组合性、信息性、整合性与排除性，能够精确识别和度量各种因果悖论及现实世界系统中的实际原因与结果。

ABSTRACT

Actual causation is concerned with the question "what caused what?" Consider a transition between two states within a system of interacting elements, such as an artificial neural network, or a biological brain circuit. Which combination of synapses caused the neuron to fire? Which image features caused the classifier to misinterpret the picture? Even detailed knowledge of the system's causal network, its elements, their states, connectivity, and dynamics does not automatically provide a straightforward answer to the "what caused what?" question. Counterfactual accounts of actual causation based on graphical models, paired with system interventions, have demonstrated initial success in addressing specific problem cases in line with intuitive causal judgments. Here, we start from a set of basic requirements for causation (realization, composition, information, integration, and exclusion) and develop a rigorous, quantitative account of actual causation that is generally applicable to discrete dynamical systems. We present a formal framework to evaluate these causal requirements that is based on system interventions and partitions, and considers all counterfactuals of a state transition. This framework is used to provide a complete causal account of the transition by identifying and quantifying the strength of all actual causes and effects linking the two consecutive system states. Finally, we examine several exemplary cases and paradoxes of causation and show that they can be illuminated by the proposed framework for quantifying actual causation.

研究动机与目标

• 解决在因果结构已知但实际因果关系仍不明确的复杂系统中‘什么导致了什么？’这一根本性问题。
• 形式化一个严谨的、定量的实际因果理论，满足整合性、排除性和信息性等核心因果原则。
• 通过基于系统干预的反事实推理，解决长期存在的因果悖论（如抢先因果、压制因果等）。
• 开发一种可推广的方法，适用于包括神经网络和生物电路在内的多样化系统，超越静态图模型。

提出的方法

• 通过一组公理化要求形式化因果关系：实现性、组合性、信息性、整合性与排除性。
• 利用系统干预和状态划分，评估状态转移的所有可能反事实情形。
• 通过信息论度量（如有效信息）量化因果强度，以评估原因对结果实现的贡献程度。
• 应用基于划分的分析方法，识别能够共同解释某一转移的最小元素子集，确保排除冗余原因。
• 通过评估所有反事实转移并选择最整合、最富信息的因果对，构建完整的因果解释。
• 使用动态因果网络对系统状态和转移进行建模，使该方法可应用于神经网络和脑电路等现实世界系统。

实验结果

研究问题

• RQ1 在因果结构已知的离散动力系统中，实际因果关系应如何形式化定义并定量衡量？
• RQ2 如何系统性地应用反事实推理来识别实际原因，而无需依赖直观判断？
• RQ3 该框架如何解决如抢先因果、压制因果和析取因果等经典因果悖论？
• RQ4 何种标准可确保所识别的原因既必要又具备整合性，避免过度归因或冗余？
• RQ5 如何以反映信息与整合性的方法度量实际因果的强度？

主要发现

• 该框架通过系统干预和划分评估所有反事实情形，成功识别出复杂转移中的实际原因与结果。
• 通过有效信息量化因果强度，提供了一个数值度量，反映原因对结果实现的贡献程度。
• 通过强制执行排除性与整合性原则，该方法解决了经典因果悖论（如抢先因果与析取因果）。
• 该框架在包括神经网络动力学和脑电路转移在内的多样化示例中，与直观因果判断保持一致。
• 研究揭示，实际因果关系并不总是可归约为单一元素，而往往源于相互作用的最小整合子集。
• 该方法超越静态贝叶斯网络，使具有时变状态和动态相互作用的系统也能进行因果分析。