[論文レビュー] Explaining Naive Bayes and Other Linear Classifiers with Polynomial Time and Delay

João Marques‐Silva, Thomas Gerspacher+3 more|arXiv (Cornell University)|Aug 13, 2020

Explainable Artificial Intelligence (XAI)参考文献 25被引用数 26

ひとこと要約

本稿では、線形分類器（ナイーブベイズ分類器（NBC）を含む）の最小PI解釈（部分集合最小の十分な特徴値集合）を計算する対数線形時間のアルゴリズムと、すべてのPI解釈を列挙する多項式遅延アルゴリズムを提示する。主な貢献は、線形分類器におけるPI解釈計算がPに属することの証明であり、これは未解決の問題を解決し、形式的な保証とともにより効率的かつ正確な解釈を可能にする。

ABSTRACT

Recent work proposed the computation of so-called PI-explanations of Naive Bayes Classifiers (NBCs). PI-explanations are subset-minimal sets of feature-value pairs that are sufficient for the prediction, and have been computed with state-of-the-art exact algorithms that are worst-case exponential in time and space. In contrast, we show that the computation of one PI-explanation for an NBC can be achieved in log-linear time, and that the same result also applies to the more general class of linear classifiers. Furthermore, we show that the enumeration of PI-explanations can be obtained with polynomial delay. Experimental results demonstrate the performance gains of the new algorithms when compared with earlier work. The experimental results also investigate ways to measure the quality of heuristic explanations

研究の動機と目的

• 線形分類器におけるPI解釈を計算する効率的で正確なアルゴリズムの欠如に応えること。これは、従来、最悪ケースで指数時間および指数空間を要していた。
• 予測のための部分集合最小で十分な特徴値集合（PI解釈）を計算することで、解釈の品質に形式的な保証を提供すること。
• 線形分類器（NBCを含む）におけるPI解釈計算がPに属することを示すことにより、正確な解釈の実用的導入を可能にすること。
• すべてのPI解釈を列挙する多項式遅延アルゴリズムを開発し、特徴の重要度の包括的分析を可能にすること。
• 完全なPI解釈列挙をゴールドスタンダードとして用いて、ヒューリスティックな説明手法（例：Anchor、SHAP）を評価・ベンチマークすること。

提案手法

• 実数値およびカテゴリカル特徴を統合的に扱えるように一般化された実数値特徴とカテゴリカル特徴を組み合わせた拡張線形分類器（XLC）モデルを提案する。
• 意思決定関数の線形構造と効率的な制約伝播を活用して、最小PI解釈を対数線形時間で計算するアルゴリズムを設計する。
• 解空間を体系的に探索するためのコンact表現とプルーニング戦略を用いて、すべてのPI解釈を多項式遅延で列挙するアルゴリズムを開発する。
• SDD（Sentential Decision Diagram）コンパイルを用いて意思決定関数を扱いやすい論理形式にコンパイルし、モデル上で効率的なクエリ応答を可能にする。
• ヒューリスティックな説明の評価に「ヒット」指標を導入し、完全なPI解釈列挙で頻出する特徴との重複度を測定する。
• 提案手法XPXLCを、既存のツール（例：STEP、Anchor、SHAP）と比較して実装し、実行時間、スケーラビリティ、説明品質を測定する。

実験結果

リサーチクエスチョン

• RQ1 線形分類器におけるPI解釈は多項式時間で計算可能か。これは、その計算複雑性に関する未解決問題を解消する。
• RQ2 すべてのPI解釈の列挙は多項式遅延で達成可能か。これにより、スケーラブルかつ完全な解釈探索が可能になる。
• RQ3 Anchor や SHAP などのヒューリスティックな説明手法は、完全なPI解釈列挙と比較してどの程度の品質を示すか。また、後者は評価のゴールドスタンダードとして機能できるか。
• RQ4 提案された対数線形時間アルゴリズムは、既存の正確なアルゴリズムに比べてどの程度の性能向上を達成するか。
• RQ5 ヒューリスティックな説明は、完全な列挙によって特定された最も一般的な影響力のある特徴値ペアとどの程度一致するか。

主な発見

• 任意の線形分類器（ナイーブベイズを含む）の最小PI解釈の計算は、対数線形時間で達成可能であり、問題がPに属することを証明する。
• 線形分類器におけるすべてのPI解釈の列挙は、多項式遅延で実行可能であり、スケーラブルかつ包括的な解釈探索を可能にする。
• 提案されたXPXLCアルゴリズムは、先行する正確なツールよりも著しく高速である。1つの説明を計算する時間は数マイクロ秒未満であり、Anchorは平均1.55秒、SHAPは99.58秒を要する。
• SDDコンパイル時間すら無視しても、STEPの列挙フェーズはXPXLCの4〜20倍遅く、新しいアルゴリズムの効率性を示している。
• 「ヒット」指標は、ヒューリスティックな説明（Anchor、SHAP）に含まれる特徴と、完全な列挙で頻出する特徴との間に強い相関関係があることを示し、PI解釈がベンチマークとしての有効性を裏付けている。
• 2,000件以上のインスタンスにおいて、Anchorは最も一般的な特徴と完全に重複しない説明を生成しており、一部の状況では信頼性に欠ける可能性があることを示している。