[論文レビュー] Efficient Explanations for Knowledge Compilation Languages

Xuanxiang Huang, Yacine Izza+4 more|arXiv (Cornell University)|Jul 4, 2021

Bayesian Modeling and Causal Inference参考文献 57被引用数 9

ひとこと要約

本稿では、説明可能AIや制約プログラミングで一般的に使用される知識コンパイル（KC）言語、たとえばd-DNNF や SDD に対して、個々のおよび複数の反事後的および後処理的説明（AXp および CXp）が多項式時間で計算可能であることを示している。主な貢献は、KC言語が多項式時間の整合性（CO）、妥当性（VA）、および条件付け（CD）クエリをサポートする場合、効率的な説明生成が可能になることである。実験結果では、実行時間のオーバーヘッドがほとんどなく、実用的に高いスケーラビリティを示している。

ABSTRACT

Knowledge compilation (KC) languages find a growing number of practical uses, including in Constraint Programming (CP) and in Machine Learning (ML). In most applications, one natural question is how to explain the decisions made by models represented by a KC language. This paper shows that for many of the best known KC languages, well-known classes of explanations can be computed in polynomial time. These classes include deterministic decomposable negation normal form (d-DNNF), and so any KC language that is strictly less succinct than d-DNNF. Furthermore, the paper also investigates the conditions under which polynomial time computation of explanations can be extended to KC languages more succinct than d-DNNF.

研究の動機と目的

• 知識コンパイル（KC）言語を用いる機械学習および制約プログラミングシステムにおける、効率的で形式的な説明の増大するニーズに対処すること。
• どのKC言語が、後処理的（AXp）および対照的（CXp）説明の tractable（容易に計算可能な）計算を可能にするかを特定すること。
• 最小限の計算オーバーヘッドで、複数の説明を生成するための実用的でオракルベースの列挙アルゴリズムを開発すること。
• 一般化された意思決定関数およびマルチクラス分類器への、 tractable な説明計算の拡張。
• 実世界のデータセットを用いた実験的評価を通じて、説明アルゴリズムの理論的効率性を検証すること。

提案手法

• コアKC操作（整合性：CO、妥当性：VA、条件付け：CD）が多項式時間でサポートされるという条件を、説明生成の tractable 性の十分条件として活用する。
• 1回のNPオラクル呼び出しで1つの説明を生成するMARCOに類似したアルゴリズムを提案し、複数のAXpおよびCXpの効率的列挙を可能にする。
• SATオラクル呼び出しを用いて説明の妥当性および整合性を確認し、SDDに特化した最適化によりパフォーマンスを最適化する。
• DNNFに基づく意思決定関数が多項式時間で説明可能となる一般化された条件を導入し、標準的なd-DNNFを超えて拡張する。
• 多クラス分類器への適用のために、説明論理を多クラス意思決定境界に対応させるように変更する。
• cactusプロットおよび実行時間測定を用いて、d-DNNFおよびSDDにコンパイルされた実世界のデータセットにおけるスケーラビリティと効率性を評価する。

実験結果

リサーチクエスチョン

• RQ1 知識コンパイル言語にどのような条件下で、個々の後処理的および対照的説明が多項式時間で計算可能になるか？
• RQ2 複数の説明の列挙を、1つの説明あたり最小限の計算コストで効率的に行うことは可能か？
• RQ3 実際の説明生成において、d-DNNF と SDD のパフォーマンス特性はどのように比較されるか？
• RQ4 KC言語から構築された一般化された意思決定関数が、多項式時間で説明可能であるための条件は何か？
• RQ5 提案されたフレームワークは、多クラス分類器にスケーリング可能であり、かつ説明計算の tractable 性を維持できるか？

主な発見

• d-DNNF および SDD 言語において、すべてのテストインスタンスに対してすべてのAXpおよびCXpを列挙する最大実行時間は、d-DNNFでは0.2秒未塔、SDDでは0.02秒未塔であった。
• 平均して、d-DNNFのすべての説明を列挙するのに0.038秒しかかからず、SDDでは数ミリ秒で済んだ。これは、SATオラクル呼び出しによるオーバーヘッドがほとんどないことを示している。
• SDDの説明は、平均してd-DNNFの6倍速く、主にSDDにおける定数時間の整合性および妥当性チェックのおかげである。
• 説明（AXpまたはCXp）の平均長は、全特徴数に比べて比較的短く、簡潔で解釈可能な説明であることが示された。
• 1インスタンスあたりの説明総数は小さく保たれており、意思決定者にとって実用的であることが裏付けられた。
• 実験結果は、理論的な多項式時間保証が、実際の応用においても極めて効率的でスケーラブルな説明生成に実際に反映されることを確認した。