[論文レビュー] Model-Preserving Sensitivity Analysis for Families of Gaussian Distributions

Christiane Goergen, Manuele Leonelli|arXiv (Cornell University)|Sep 27, 2018

Bayesian Modeling and Causal Inference参考文献 22被引用数 4

ひとこと要約

本稿では、乗法的かつ代数的制約付きの共変動を用いることで、元の条件付き独立構造を維持するガウス graphical モデルのモデル保存型感度分析を導入する。摂動によって共分散パラメータが変化しても、元の条件付き独立構造が保たれることを保証し、Kullback-Leibler 収束を用いて分布の変化を定量化する。標準的手法と同等のロバストネスを示すが、条件付き独立関係が一貫している点が特徴である。

ABSTRACT

The accuracy of probability distributions inferred using machine-learning algorithms heavily depends on data availability and quality. In practical applications it is therefore fundamental to investigate the robustness of a statistical model to misspecification of some of its underlying probabilities. In the context of graphical models, investigations of robustness fall under the notion of sensitivity analyses. These analyses consist in varying some of the model's probabilities or parameters and then assessing how far apart the original and the varied distributions are. However, for Gaussian graphical models, such variations usually make the original graph an incoherent representation of the model's conditional independence structure. Here we develop an approach to sensitivity analysis which guarantees the original graph remains valid after any probability variation and we quantify the effect of such variations using different measures. To achieve this we take advantage of algebraic techniques to both concisely represent conditional independence and to provide a straightforward way of checking the validity of such relationships. Our methods are demonstrated to be robust and comparable to standard ones, which break the conditional independence structure of the model, using an artificial example and a medical real-world application.

研究の動機と目的

• 標準的なガウス感度分析では、共分散行列への摂動が元の条件付き独立構造を破壊するという限界を解決すること。
• パrameter 変動後もグラフィカルモデルの構造を保存する感度分析フレームワークを構築すること。
• すべての摂動された分布が元のものと同じ条件付き独立関係を持つ有効なガウスモデルのまま保たれることを保証すること。
• 離散ベイジアンネットワークにおける比例的共変動の連続的アナロジーを提供し、モデルの一貫性を維持すること。
• 人工的および実世界の医療例を通じて、本手法のロバストネスと実用的有用性を示すこと。

提案手法

• 加法的ではなく乗法的に共分散行列の要素に摂動を加えるモデル保存型摂動を提案する。
• 共分散行列の特定の小行列式の消滅を用いて、条件付き独立構造を代数的に表現・検証する技術を用いる。
• 摂動後に元のグラフ構造が保たれるように、追加のパrameter の共変動を強制する。
• 完全、部分、行ベース、列ベース、標準の5つの共変動スキームを実装し、それぞれが有効な共分散行列を生成することを保証する。
• 元の分布と変化した分布の間の Kullback-Leibler 収束と Frobenius 範囲を用いて、摂動の影響を定量化する。
• シュール積と正定値性の検証を用いて、得られた共分散行列の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 元の条件付き独立構造を損なわずにガウス graphical モデルの感度分析を実施できるか？
• RQ2 モデル保存型摂動は、標準的な加法的摂動と比較して、KL 収束とモデルの一貫性においてどのように異なるか？
• RQ3 共変動スキーム（例：行ベース、列ベース）のうち、どのものが最も安定的かつ代表的な感度結果をもたらすか？
• RQ4 モデル保存型摂動後の共分散行列が常に正半定値であることが保証される条件は何か？
• RQ5 本手法は、標準的な感度分析と比較して、実世界の応用においてどのように性能を発揮するか？

主な発見

• モデル保存型感度分析は、摂動後も元のグラフィカル構造を維持し、グラフがモデルの条件付き独立構造を忠実に反映していることを保証する。
• カケキシア患者ネットワークでは、従来手法がモデル保存型手法よりも著しく小さい KL 収束値を示したが、後者の方がさまざまなパラメータでより一貫性のある結果を示した。
• 2つのケース（4つ中）で、行ベースのモデル保存型変化が著しく小さい KL 収束値を達成し、特定の共分散に対してより感受性が高いことが示された。
• グルタミン酸/ベタインの共分散に関しては、行ベースのモデル保存型スキームが標準手法とほぼ同等の Frobenius 範囲を達成し、優れた性能を示した。
• 完全なモデル保存型共変動スキームは、部分的または行/列ベースのスキームとは異なり、常に正半定値行列を生成する。
• 本手法は、モデル構造を損なわない一貫性のあるグラフィカル表現を提供するロバストな感度分析を可能にし、モデル構造を犠牲にする標準的手法の代替手段として有効である。