[論文レビュー] Generalizing Logic-based Explanations for Machine Learning Classifiers via Optimization

Francisco Mateus Rocha Filho, Ajalmar Rêgo da Rocha Neto+1 more|arXiv (Cornell University)|Mar 2, 2026

Explainable Artificial Intelligence (XAI)被引用数 0

ひとこと要約

この論文は、ML分類器の論理ベースの推定説明を膨張させるための2つの最適化ベース手法（ワンステップとツーステップ）を提案し、計算時間を管理しつつカバー範囲を改善します。

ABSTRACT

Machine learning models support decision-making, yet the reasons behind their predictions are opaque. Clear and reliable explanations help users make informed decisions and avoid blindly trusting model outputs. However, many existing explanation methods fail to guarantee correctness. Logic-based approaches ensure correctness but often offer overly constrained explanations, limiting coverage. Recent work addresses this by incrementally expanding explanations while maintaining correctness. This process is performed separately for each feature, adjusting both its upper and lower bounds. However, this approach faces a trade-off: smaller increments incur high computational costs, whereas larger ones may lead to explanations covering fewer instances. To overcome this, we propose two novel methods. Onestep builds upon this prior work, generating explanations in a single step for each feature and each bound, eliminating the overhead of an iterative process. \textit{Twostep} takes a gradual approach, improving coverage. Experimental results show that Twostep significantly increases explanation coverage (by up to 72.60\% on average across datasets) compared to Onestep and, consequently, to prior work.

研究の動機と目的

• ML分類器の論理ベースの帰納的説明の一般化を改善する。
• 正確性を保証しつつ説明範囲を拡張する手法を開発する。
• 説明のカバー率と計算効率のバランスを取る。
• SVMとMLP分類器へ適用し、複数データセットで評価する。

提案手法

• 分類器（SVMとMLP）を一階述語論理式およびMILP/LP定式化として表現し、正しい帰納的説明を得る。
• Onestepを導入：各境界について一度の最適化で最大/最小特徴範囲を見つけ、反復的な増分を回避する。
• Twostepを導入：展開順序を制御して全体的な説明カバレージを改善し、特定の特徴への過度な制約を減らす。
• MILP/LPソルバーを用いて充足性を検証することで、線形SVCに対する多項式時間の検証を可能にする。
• Pを予測条件の必要条件を捉えるよう定義し、E ∪ D ⊨ P を満たすように最小なEを導出する。

Figure 1 : Example of how the range of a feature $f_{i}$ is computed with an incremental approach.

実験結果

リサーチクエスチョン

• RQ1 論理ベースの説明を正確性を保ちながら膨張させるにはどうすればよいか。
• RQ2 最適化ベースの膨張手法は、インクリメンタルなアプローチと比較して説明のカバレージを向上させるか。
• RQ3 OnestepとTwostepを用いた場合のカバレージ向上と計算時間のトレードオフはどうなるか。
• RQ4 提案手法は、検証データセットの枠を超えてSVMおよびMLPモデルに効果的に適用できるか。
• RQ5 合成データと実データにおける説明の一般化はどう変化するか。

主な発見

• Twostepは、Onestepと比較してデータセット全体で説明のカバレージを平均72.60%まで向上させる。
• TwostepはOnestepに対して計算時間を平均55.65%増加させる。
• Onestepは境界ごと feature ごとに1回の最適化ステップで膨張した説明を計算し、反復的な範囲過走を回避する。
• 説明は分類器とそのドメイン制約を表すMILP/LP定式化を解くことで計算される。
• 実験は4つの指標を評価する：計算時間、元データセットでのカバレージ、合成データでのカバレージ、12データセットにまたがる範囲幅。

Figure 2 : Example of how the range of a feature $f_{i}$ is computed with Onestep.