[論文レビュー] Qualitative Propagation and Scenario-based Explanation of Probabilistic Reasoning

Max Henrion, Marek J. Drużdżel|arXiv (Cornell University)|Mar 27, 2013

Bayesian Modeling and Causal Inference参考文献 10被引用数 10

ひとこと要約

本稿では、ベイジアンネットワークにおける確率的推論の解釈可能性を向上させるために、相補的な2つのアプローチ—定性的な信念伝搬とシナリオベースの説明—を提案する。定性的な伝搬アルゴリズムは、因果的推論に基づき、完全な数値計算を回避する。また、観察された証拠が確率にどのように影響するかを、数値的熟練が不要な直感的で人間が読みやすい物語として理解できるようにする説明手法も導入する。

ABSTRACT

Comprehensible explanations of probabilistic reasoning are a prerequisite for wider acceptance of Bayesian methods in expert systems and decision support systems. A study of human reasoning under uncertainty suggests two different strategies for explaining probabilistic reasoning: The first, qualitative belief propagation, traces the qualitative effect of evidence through a belief network from one variable to the next. This propagation algorithm is an alternative to the graph reduction algorithms of Wellman (1988) for inference in qualitative probabilistic networks. It is based on a qualitative analysis of intercausal reasoning, which is a generalization of Pearl's "explaining away", and an alternative to Wellman's definition of qualitative synergy. The other, Scenario-based reasoning, involves the generation of alternative causal "stories" accounting for the evidence. Comparing a few of the most probable scenarios provides an approximate way to explain the results of probabilistic reasoning. Both schemes employ causal as well as probabilistic knowledge. Probabilities may be presented as phrases and/or numbers. Users can control the style, abstraction and completeness of explanations.

研究の動機と目的

• ベイジアンネットワークにおける確率的推論を、専門外のユーザーにも理解可能にする課題に対処すること。
• 数値出力にとどまらない代替の説明メカニズムを構築し、専門家および意思決定支援システムにおける意思決定を支援すること。
• 説明生成に因果的知識と確率的知識を統合し、透明性を向上させること。
• ユーザーが説明の抽象度、包括性、スタイルを制御できること。
• 観察された証拠を説明する妥当な因果的シナリオを考慮した、直感的で物語ベースの説明を提供すること。

提案手法

• 信念ネットワークを通じて影響の符号（正/負）を追跡する定性的な信念伝搬アルゴリズムを提案し、完全な数値計算を回避する。
• 相互因果的推論を基盤とし、ペイの「説明の消去（explaining away）」現象を一般化して、証拠の定性的な影響を推論する。
• ウェルマンの定性的なシナジーの代替として、共通の結果に及ぼす複数の原因の定性的な影響に焦点を当てる。
• 観察された証拠を説明する最も妥当な因果的ストーリーを特定・順位付けすることで、シナリオベースの説明を生成する。
• 「おそらく」「あまり可能性がない」などの定性的確率表現（例：'likely', 'unlikely'）と数値を組み合わせ、柔軟な説明スタイルをサポートする。
• 因果的知識と確率的知識のハイブリッド表現を採用し、説明生成をガイドするとともに、ネットワーク構造と整合性を保証する。

実験結果

リサーチクエスチョン

• RQ1 ベイジアンネットワークにおける確率的推論を、非専門家にとって直感的かつアクセス可能な形でどのように説明できるか。
• RQ2 完全な数値推論を伴わずに、信念ネットワークを通じて証拠の影響をどのように定性的に伝搬できるか。
• RQ3 特定の確率が証拠の影響を受けて更新される理由を説明するための妥当な因果的物語をどのように生成できるか。
• RQ4 相互因果的推論は、確率的依存関係の定性的理解をどのように可能にするか。
• RQ5 正確性を保ちながら、ユーザーが説明の抽象度と包括性を制御できるか。

主な発見

• 定性的な信念伝搬アルゴリズムは、相互因果的推論を用いて、信念ネットワークを通じて影響の方向（正または負）を的確に追跡でき、完全な推論に代わる計算効率の高い代替手段を提供する。
• この手法により、ユーザーが複雑な数値的確率を解釈する必要なく、証拠が信念にどのように影響するかを説明できる。
• 最も妥当な因果的ストーリーを順位付けすることで生成されるシナリオベースの説明は、物語ベースの解釈を提供し、ユーザーの理解を向上させる。
• このアプローチは柔軟な説明スタイルをサポートしており、ユーザーが定性的表現と数値的確率の両方を選択可能である。
• 因果的知識と確率的知識の統合により、元のベイジアンネットワーク構造と整合的で解釈可能な説明が可能になる。
• 本フレームワークは、透明性と解釈可能性が重要な分野における専門家支援システムや意思決定支援システムの推論プロセスを説明するのに有効であることが示された。