[論文レビュー] A Sequence of Relaxations Constraining Hidden Variable Models

Greg Ver Steeg, Aram Galstyan|arXiv (Cornell University)|Jun 8, 2011

Advanced Optimization Algorithms Research参考文献 18被引用数 10

ひとこと要約

この論文は、和の平方（SOS）および半正定値計画法を用いた凸緩和の系列を導入し、隠れ変数モデルにおけるより厳密な線形不等式制約（『隠れ変数検定』）を生成する。この手法により、社会的ネットワークにおける相関の原因としての隠れ同調性（latent homophily）を唯一の説明とすることはできず、実データにおける観察された影響効果が、同調性のみで予測される境界を上回っていることが示された。

ABSTRACT

Many widely studied graphical models with latent variables lead to nontrivial constraints on the distribution of the observed variables. Inspired by the Bell inequalities in quantum mechanics, we refer to any linear inequality whose violation rules out some latent variable model as a "hidden variable test" for that model. Our main contribution is to introduce a sequence of relaxations which provides progressively tighter hidden variable tests. We demonstrate applicability to mixtures of sequences of i.i.d. variables, Bell inequalities, and homophily models in social networks. For the last, we demonstrate that our method provides a test that is able to rule out latent homophily as the sole explanation for correlations on a real social network that are known to be due to influence.

研究の動機と目的

• 隠れ変数モデルにおける観測分布に対する、次第に厳密な制約を生成する体系的な手法の開発。
• 既存の手法の範囲を超えて、特定の隠れ構造を除外する線形不等式（『隠れ変数検定』）を構築する一般枠組みの提供。
• 両者ともに類似した観測相関を生じる可能性があるため、社会的ネットワークにおける影響力と隠れ同調性の区別を困難にする課題への対処。
• ベル不等式の概念を、i.i.d.混合モデルや社会的ネットワークモデルなどの非量子系へと拡張。
• 望ましい状況では正確な制約へ収束する凸緩和を活用することで、識別不能な隠れ変数モデルを計算的に実行可能な方法でテストする。

提案手法

• この手法は、与えられた隠れ変数モデルと整合する観測分布の集合を近似するために、和の平方（SOS）最適化を用いた凸緩和の系列を構築する。
• 観測確率を未知の条件付き分布の多項式としてモデル化することで、半正定値計画法を用いて次第に厳密な境界を計算可能にする。
• 代数幾何学的ツールを活用し、グラフィカルモデル（隠れルートを含む）やi.i.d.混合モデルを含む広範なモデルクラスに対して制約を導出する。
• 観測分布空間が凸であるモデル（例：単一の隠れルートを持つモデル）では、緩和の系列が真の制約集合に正確に収束する。
• カスタム観測量（例：相関に基づく統計量）の構築を可能とし、その期待値が隠れ同調性下で境界付けられるため、統計的検定が可能になる。
• 実社会的ネットワークデータにこの手法を適用し、同調性下での影響力の大きさの境界を導出し、観測データと比較した。

実験結果

リサーチクエスチョン

• RQ1 隠れ同調性（例：社会的ネットワークにおける）のような特定の隠れ変数モデルを除外する、次第に厳密な制約の系列を生成できるか？
• RQ2 隠れ同調性のような隠れ変数モデルが、社会的ネットワークにおける観測相関をどの程度説明できるか、またいつ除外できるか？
• RQ3 凸緩和から導かれた境界は、ベル不等式などの既知の境界と、量子的類似系（例：ベル不等式）においてどのように比較されるか？
• RQ4 観測相関の背後にある要因としての隠れ同調性を唯一の説明と見なさないために、必要な最小の影響力の水準は何か？
• RQ5 提案手法は、有限または離散的な隠れ構造に限らない一般の隠れ変数モデルへ応用可能か？

主な発見

• 隠れ同調性下での観測相関の境界が成功裏に導出された。T=6の時間ステップでは、同調性下でのテスト観測量の期待値の最大値が ≤0.302 であることが示された。
• 実社会的ネットワークでは、観測された相関が同調性による境界を上回っており、同調性がデータの唯一の説明であると否定できる。
• 影響確率λのモデルでは、観測量𝒪の期待値⟨𝒪⟩_inf は影響下でλに等しくなるが、隠れ同調性下では⟨𝒪⟩_SLH ≤ 0.302（T=6）となるため、明確な検証可能な境界が得られた。
• 観測分布空間が凸である場合（例：単一の隠れルートノードを持つモデル）、緩和の系列は正確に真の制約集合に収束する。
• この手法により、ベル不等式型の推論が非量子系へ一般化され、社会的・確率的モデルにおける隠れ構造の新たなテストが可能になった。
• T<4の場合は同調性境界が自明（≤1）であるため、この観測量では短い時間系列では同調性を除外できないことが示され、より長い時系列が必要であることが強調された。