[論文レビュー] Identifiability of Generalized Hypergeometric Distribution (GHD) Directed Acyclic Graphical Models

Gunwoong Park, Hyewon Park|arXiv (Cornell University)|May 8, 2018

Statistical and Computational Modeling被引用数 7

ひとこと要約

本稿では、各ノードの条件付き分布が一般化超幾何分布（GHD）族に属する、識別可能である新しい有向無閉路グラフ（DAG）モデルのクラスを導入する。GHD族にはポアソン、二項、負の二項分布などが含まれる。著者らは、平均とr次の階乗モーメントの間の凸関係を用いて、元のグラフ構造が結合分布から完全に同定可能であることを証明し、高次元設定（p > n）で有界なインデグリ（入次数）を持つ場合でも一貫してDAGを回復できる多項式時間のモーメント比スコアリング（MRS）アルゴリズムを提案する。

ABSTRACT

We introduce a new class of identifiable DAG models where the conditional distribution of each node given its parents belongs to a family of generalized hypergeometric distributions (GHD). A family of generalized hypergeometric distributions includes a lot of discrete distributions such as the binomial, Beta-binomial, negative binomial, Poisson, hyper-Poisson, and many more. We prove that if the data drawn from the new class of DAG models, one can fully identify the graph structure. We further present a reliable and polynomial-time algorithm that recovers the graph from finitely many data. We show through theoretical results and numerical experiments that our algorithm is statistically consistent in high-dimensional settings (p>n) if the indegree of the graph is bounded, and out-performs state-of-the-art DAG learning algorithms.

研究の動機と目的

• 一般化超幾何分布（GHD）を用いて、多次元カウントデータ向けの識別可能なDAGモデルの新クラスを開発すること。
• 忠実性仮定に依存せずに、GHD DAGモデルの識別可能性を確立すること。そのために、平均とr次の階乗モーメントの間の凸関係を用いる。
• 有限標本から真のDAG構造を信頼性高く回復できる、スケーラブルで多項式時間のアルゴリズム（MRS）を設計すること。
• 高次元設定（p > n）で有界なインデグリを持つ場合のMRSアルゴリズムの統計的一貫性と優れた性能を示すこと。
• 合成データと実際のNBA選手統計データを用いて、本手法を検証し、既存のアルゴリズムと比較して因果構造の回復が改善されることを示すこと。

提案手法

• 各ノードの親ノードを条件とする条件付き分布がGHD族に属する、DAGモデルの新クラスを提案。GHD族にはポアソン、二項、負の二項分布などが含まれる。
• 因果的十分性仮定の下で、GHDの平均とr次の階乗モーメントの間の凸関係を証明することで、識別可能性を確立する。
• 平均-階乗モーメント関係に基づくスコア関数を用いた、標本モーメントを推定することでグラフ構造を推定するMRSアルゴリズムを開発する。
• 2段階のアプローチを実装：まず、モーメント比に基づく条件付き独立性検定を用いてスケルトン推定を行う。次に、平均-階乗モーメント関係の凸性を用いてエッジの向きを決定する。
• 高次元状況（p > n）における計算効率と統計的一致性を保証するため、有界なインデグリ仮定を適用する。
• 真の条件付き分布が不明な場合に、実世界の応用における頑健性を向上させるために、分散パラメータb_jの推定にデータ駆動型手法を用いる。

実験結果

リサーチクエスチョン

• RQ1 ポアソン、二項、負の二項分布を含む広範な離散分布クラスを用いて、完全に識別可能なDAGモデルを構築できるか？
• RQ2 条件付き分布が一般化超幾何分布族に属する場合、DAGモデルのグラフ構造が結合分布から同定可能か？
• RQ3 変数の数が標本サイズを上回る場合（p > n）でも、多項式時間アルゴリズムが真のDAG構造を回復できるか？
• RQ4 本手法のMRSアルゴリズムは、カウントデータにおいて、最先端の手法（GES、MMHC、ODS）と比較して、正確性と計算効率の面で優れているか？
• RQ5 実世界のカウントデータにおいて、MRSアルゴリズムが得た有向エッジは、既存の手法と比較してより現実的で因果的解釈可能な関係を反映しているか？

主な発見

• 提案されたGHD DAGモデルは、忠実性仮定を必要とせず、平均とr次の階乗モーメントの凸関係を用いて、結合分布から完全に識別可能である。
• MRSアルゴリズムは多項式時間の計算量を達成し、インデグリが有界な高次元状況（p > n）において統計的一致性を示す。
• シミュレーションでは、標本サイズが増加するにつれて、MRSアルゴリズムはGES、MMHC、ODSよりも真のグラフ構造をより正確に回復する。
• 実際のNBA選手統計（18変数）において、MRSアルゴリズムはODSよりも8つのより説明可能な有向エッジを生成し、より現実的な因果的解釈（例：TotalMinutesPlayed → PersonalFouls、ThreeAttempted → ThreeMade）を示す。
• MRSアルゴリズムは、ODSよりもエッジの向きの回復性能が優れており、ODSの出力に見られる説明不能なエッジは、スケルトン推定の誤りに起因する可能性が高く、MRSはより因果的解釈可能な構造を生成する。
• 真の条件付き分布が不明な場合でも、実験的分散/平均比を用いて分散パラメータを推定することで、本手法は頑健性を保つ。