[論文レビュー] What caused what? A quantitative account of actual causation using dynamical causal networks

Larissa Albantakis, William Marshall+2 more|arXiv (Cornell University)|Aug 22, 2017

Neural dynamics and brain function被引用数 4

ひとこと要約

本稿では、反事後的推論、システム干渉、状態遷移の分割に基づき、動的因果ネットワークを用いて離散的力学系における実原因を定量化する枠組みを提案する。この枠組みは、実現、構成、情報、統合、排除といった根幹の因果的原則を満たしており、多様な因果的パラドックスや現実世界のシステムにおいて、正確な原因・結果の同定と測定を可能にする。

ABSTRACT

Actual causation is concerned with the question "what caused what?" Consider a transition between two states within a system of interacting elements, such as an artificial neural network, or a biological brain circuit. Which combination of synapses caused the neuron to fire? Which image features caused the classifier to misinterpret the picture? Even detailed knowledge of the system's causal network, its elements, their states, connectivity, and dynamics does not automatically provide a straightforward answer to the "what caused what?" question. Counterfactual accounts of actual causation based on graphical models, paired with system interventions, have demonstrated initial success in addressing specific problem cases in line with intuitive causal judgments. Here, we start from a set of basic requirements for causation (realization, composition, information, integration, and exclusion) and develop a rigorous, quantitative account of actual causation that is generally applicable to discrete dynamical systems. We present a formal framework to evaluate these causal requirements that is based on system interventions and partitions, and considers all counterfactuals of a state transition. This framework is used to provide a complete causal account of the transition by identifying and quantifying the strength of all actual causes and effects linking the two consecutive system states. Finally, we examine several exemplary cases and paradoxes of causation and show that they can be illuminated by the proposed framework for quantifying actual causation.

研究の動機と目的

• 因果構造が明らかであるが、実原因が曖昧な複雑系において「何が何を引き起こしたか？」という根本的問いに応えること。
• 統合、排除、情報といった根幹の因果的原則を満たす、厳密で定量化可能な実原因の記述を形式化すること。
• システム干渉に基づく反事後的推論を用いて、長年の因果的パラドックス（例：先行遮断、優越的因果）を解消すること。
• 静的グラフィカルモデルにとどまらず、ニューラルネットワークや生物学的回路を含む多様なシステムに一般化可能な手法を開発すること。

提案手法

• 実現、構成、情報、統合、排除という一連の公理的要件を通じて因果の形式化。
• すべての可能な反事後的状態遷移を評価するため、システム干渉と状態の分割を用いる。
• 情報理論的指標（例：有効情報）を用いて因果的強度を定量化し、原因が結果に与える寄与度を測定する。
• 最小の要素集合が遷移を説明するよう、分割に基づく分析を用いて冗長な原因を排除する。
• すべての反事後的遷移を評価し、最も統合的かつ情報量の多い原因・結果ペairを選択することで、包括的な因果的説明を構築する。
• 動的因果ネットワークを用いてシステムの状態と遷移をモデル化し、ニューラルネットワークや脳回路などの現実世界のシステムへの応用を可能にする。

実験結果

リサーチクエスチョン

• RQ1 因果構造が既知の離散的力学系において、実原因を形式的かつ定量化的に定義・測定する方法は何か？
• RQ2 直感的判断に依存せずに、反事後的推論を体系的に応用して実原因を同定する方法は何か？
• RQ3 先行遮断、優越的因果、選言的因果といった因果的パラドックスを、この枠組みはどのように解消できるか？
• RQ4 同定された原因が必要かつ統合的であることを保証する基準は何か？過剰な帰属や冗長性を回避するには？
• RQ5 情報と統合の両方を反映する形で、実原因の強度をどのように測定できるか？

主な発見

• 本フレームワークは、システム干渉と分割を用いてすべての反事後的状態遷移を評価することで、複雑な遷移における実原因と結果を的確に同定する。
• 有効情報に基づく因果的強度の定量化により、原因が結果の実現にどの程度寄与しているかを数値的に測定可能である。
• 排除と統合の原則を強制することで、先行遮断や選言的因果といった古典的因果的パラドックスを解消する。
• ニューラルネットワークのダイナミクスや脳回路の遷移といった多様な例において、直感的な因果的判断と一貫性を示す。
• 実原因は常に単一要素に還元可能というわけではないが、しばしば相互作用する最小の要素集合から生じることを明らかにする。
• 静的ベイジアンネットワークにとどまらず、時間的に変化する状態と動的な相互作用を有するシステムへの因果的分析が可能になる。