[論文レビュー] On Learning Causal Structures from Non-Experimental Data without Any Faithfulness Assumption

Hanti Lin, Jiji Zhang|arXiv (Cornell University)|Feb 20, 2018

Bayesian Modeling and Causal Inference参考文献 8被引用数 4

ひとこと要約

この論文は、真の因果構造への収束が、最大限の収束性能を達成する因果学習アルゴリズム—具体的には、ほとんど everywhere収束に加えて局所的均一性を満たすもの—が、忠実性条件を満たすすべての因果ベイジアンネットワークに対して収束する必要があることを確立している。忠実性を仮定しない場合、このような収束を普遍的に達成することは不可能であり、標準的な実装である忠実な構造への焦点を当てるという方針は、最適な学習性能を達成する上で選択肢ではなく論理的に必須であることを示している。

ABSTRACT

Consider the problem of learning, from non-experimental data, the causal (Markov equivalence) structure of the true, unknown causal Bayesian network (CBN) on a given, fixed set of (categorical) variables. This learning problem is known to be so hard that there is no learning algorithm that converges to the truth for all possible CBNs (on the given set of variables). So the convergence property has to be sacrificed for some CBNs---but for which? In response, the standard practice has been to design and employ learning algorithms that secure the convergence property for at least all the CBNs that satisfy the famous faithfulness condition, which implies sacrificing the convergence property for some CBNs that violate the faithfulness condition (Spirtes et al. 2000). This standard design practice can be justified by assuming---that is, accepting on faith---that the true, unknown CBN satisfies the faithfulness condition. But the real question is this: Is it possible to explain, without assuming the faithfulness condition or any of its weaker variants, why it is mandatory rather than optional to follow the standard design practice? This paper aims to answer the above question in the affirmative. We first define an array of modes of convergence to the truth as desiderata that might or might not be achieved by a causal learning algorithm. Those modes of convergence concern (i) how pervasive the domain of convergence is on the space of all possible CBNs and (ii) how uniformly the convergence happens. Then we prove a result to the following effect: for any learning algorithm that tackles the causal learning problem in question, if it achieves the best achievable mode of convergence (considered in this paper), then it must follow the standard design practice of converging to the truth for at least all CBNs that satisfy the faithfulness condition---it is a requirement, not an option.

研究の動機と目的

• 忠実性を仮定しない状況においても、すべての忠実な因果ベイジアンネットワークに収束するように因果学習アルゴリズムを設計するという標準的手法が正当化可能かどうかを検討すること。
• 忠実な構造への収束を犠牲にせずに、強力な収束モードを達成できる代替の学習戦略が存在するかどうかを調査すること。
• 非実験的データからの因果構造学習の文脈において、さまざまな収束モード（例：ほとんど everywhere収束、局所的均一性など）を形式化し、分析すること。
• 最良の収束行動を達成するには、忠実性が仮定されていなくても、すべての忠実な因果構造への収束が本質的に必要であることを証明すること。
• 密度や位相的無視可能性といった概念を用いて、位相的根拠を提示し、最適な学習性能を達成する上で、忠実なネットワークへの収束を放棄することは避けられないことの理由を明らかにすること。

提案手法

• 因果状態を因果グラフGと連関確率分布Pのペア(G, P)として表現する因果学習の形式的枠組みを導入する。
• 収束モードを複数定義する：ほとんど everywhere収束、局所的均一収束、および付随的局所的均一性（adherent local uniformity）を用いて、学習アルゴリズムの性能を評価する。
• 位相的概念—特に、因果状態の距離空間における稠密集合と開球—を用いて、収束領域の構造を分析する。
• 背理法を用いる：最良の収束を達成するが、ある忠実なネットワークで失敗する学習アルゴリズムを仮定し、その近傍に収束に失敗する因果状態を構成することで矛盾を導く。
• 重要な補題（6.3および6.5）を適用して、稠密かつ開である収束領域が、非最小な因果状態では収束が放棄されなければならないことを示す。
• 測度論的アプローチ（例：Lebesgue測度）に代えて、位相的無視可能性（例：第一カテゴリ集合）の概念を用いることで、カテゴリカル変数に限らない一般化を実現し、連続的または無限範囲の変数に対しても適用可能であるようにする。

実験結果

リサーチクエスチョン

• RQ1 忠実性を仮定しない状況においても、因果発見において忠実な因果構造を標的とする標準的手法は正当化可能か？
• RQ2 因果学習アルゴリズムが達成可能な最強の収束モードは何か？ そして、それらの収束モードは収束領域にどのような制約を課えるか？
• RQ3 すべての忠実な因果ベイジアンネットワークに収束しないまま、最適な収束を達成できる学習アルゴリズムは存在するか？
• RQ4 因果状態の空間の位相的構造は、因果発見における普遍的収束の可能性にどのように影響するか？
• RQ5 統計的非同定性に起因する制約を考慮すると、忠実なネットワークと非忠実なネットワークへの収束の間には、どのような必須なトレードオフが生じるか？

主な発見

• 最良の収束モード—具体的には、ほとんど everywhere収束に加えて付随的局所的均一性を満たすもの—を達成する因果学習アルゴリズムは、忠実性条件を満たすすべての因果ベイジアンネットワークに収束しなければならない。
• このような最適なアルゴリズムの収束領域は、因果状態空間において稠密かつ開でなければならない。これは、非最小な因果状態では収束が達成できないことを示唆する。
• このようなアルゴリズムが忠実なネットワークで収束に失敗する場合、その近傍でも収束に失敗することを意味し、これは仮定された最適性に矛盾する。
• 忠実なネットワークへの収束の必要性は、忠実性を仮定しているかどうかに依存しない。これは、因果状態空間の位相的構造と望ましい収束特性から必然的に導かれる。
• 測度論的アプローチの代わりに、位相的無視可能性（例：第一カテゴリ集合）の概念を用いることで、結果はカテゴリカル変数に限らず、連続的または無限範囲の変数に対しても一般化可能である。
• 忠実な構造への焦点を当てる標準的な設計手法は、便宜的または仮定的であるのではなく、因果構造学習における最適な収束性能を達成するための論理的必要条件である。