[論文レビュー] Algorithms for Causal Reasoning in Probability Trees

Tim Genewein, Tom McGrath+5 more|arXiv (Cornell University)|Oct 23, 2020

Bayesian Modeling and Causal Inference参考文献 27被引用数 10

ひとこと要約

本稿では、離散的確率木における因果的推論のための最初の具体的なアルゴリズムを提示し、任意の命題的および因果的事象における関連性、干渉、反事実的推論の計算を可能にする。イベントのための最小カット表現を導入し、標準の因果的ベイジアンネットワークでは到達できない文脈特異的因果的依存関係を扱う再帰的で解釈に依存しない手法を提供する。

ABSTRACT

Probability trees are one of the simplest models of causal generative processes. They possess clean semantics and -- unlike causal Bayesian networks -- they can represent context-specific causal dependencies, which are necessary for e.g. causal induction. Yet, they have received little attention from the AI and ML community. Here we present concrete algorithms for causal reasoning in discrete probability trees that cover the entire causal hierarchy (association, intervention, and counterfactuals), and operate on arbitrary propositional and causal events. Our work expands the domain of causal reasoning to a very general class of discrete stochastic processes.

研究の動機と目的

• AI や機械学習における確率木の無視された点に注目するが、それらが文脈特異的因果的依存関係をモデル化できる能力を持っていること。
• 離散的確率木内での因果的階層の完全な範囲—関連性、干渉、反事実的推論—をカバーする汎用的アルゴリズムを開発すること。
• 再帰的で計算的に実行可能な手法を用いて、任意の命題的および因果的事象の推論を可能にすること。
• 因果的推論のための形式的で実装可能なフレームワークを提供し、因果的ベイジアンネットワークよりも柔軟に因果構造を表現できるモデルのクラスに適用すること。
• 複数のモデル構造を必要とする因果的ベイジアンネットワークとは異なり、因果的発見と推論の基盤を築くこと。

提案手法

• 計算実装を可能にするために、確率木のノードを（識別子、状態記述のリスト、確率的遷移の集合）というタプルとして定義する。
• イベントのためのコン pact 表現として、イベント発生を解消する最小のノード集合（最小カット）を用いる。
• 干渉の計算は、do 操作の再帰的伝搬により実行し、因果構造を保持したまま遷移確率を変更する。
• 反事実的推論は、事実的側と反事実的側の2つの分岐に木を分割することで実装し、上流構造を共有する。
• 木の走査と条件付き確率の更新を用いて、再帰的アルゴリズムによりイベント確率、干渉、反事実的推論を計算する。
• 因果的ベイジアンネットワークと構造的因果モデルの両方を確率木としてモデル化できるようにフレームワークを拡張し、より豊かな構造と表現的同等性を示す。

実験結果

リサーチクエスチョン

• RQ1 命題論理と因果的先行関係を用いて、確率木内の任意のイベントの確率をどのように計算できるか？
• RQ2 干渉を確率木で形式的に定義し、どのように計算できるか？『もし〜なら』という問いに答えるために。
• RQ3 特に下流変数が上流の因果的構造に依存する場合、反事実的推論を確率木でどのように計算できるか？
• RQ4 確率木は、因果的ベイジアンネットワークでは表現できない文脈特異的因果的依存関係を表現できるか？
• RQ5 確率木内のイベントのための最小の計算的表現（例：最小カット）は何か？ そして、それらをどのように効率的に計算できるか？

主な発見

• 本稿では、離散的確率木における最小カット、干渉、反事実的推論の再帰的アルゴリズムを成功裏に開発し、完全な因果的推論を可能にした。
• 確率木は、X=0 のとき Y→Z かつ X=1 のとき Z→Y といった、標準の因果的ベイジアンネットワークでは表現できない文脈特異的因果的依存関係を表現できる。
• 本フレームワークは、干渉の逆引きを可能にする：望ましいイベント A を達成するために必要な操作を特定できる。
• 確率木における反事実的推論は、因果的ベイジアンネットワークのツインネットワーク法とは根本的に異なり、異なる構造的仮定と伝搬ルールを持つ。
• アルゴリズムは解釈に依存しないため、客観的および主観的確率・因果性の解釈を両方サポートし、外部のモデルアンサンブルを必要としない。
• 再帰的終了性のおかげで、可算無限の木へも一般化可能であるが、非可算の場合には新たな技術が必要となる。