[論文レビュー] GAMI-Net: An Explainable Neural Network based on Generalized Additive Models with Structured Interactions

Zebin Yang, Aijun Zhang+1 more|arXiv (Cornell University)|Mar 16, 2020

Explainable Artificial Intelligence (XAI)参考文献 37被引用数 16

ひとこと要約

GAMI-Net は、主効果と構造化された2項相互作用を分離されたサブネットワークでモデル化することで、一般化線形加法モデルを拡張した内在的解釈性を持つニューラルネットワークである。スパarsity、継承性、周辺明確性の制約を課すことで解釈性を保証するとともに、予測精度を競争的に維持し、実世界のデータセットにおいて EBM よりも優れたモデルの透明性を実現する。

ABSTRACT

The lack of interpretability is an inevitable problem when using neural network models in real applications. In this paper, an explainable neural network based on generalized additive models with structured interactions (GAMI-Net) is proposed to pursue a good balance between prediction accuracy and model interpretability. GAMI-Net is a disentangled feedforward network with multiple additive subnetworks; each subnetwork consists of multiple hidden layers and is designed for capturing one main effect or one pairwise interaction. Three interpretability aspects are further considered, including a) sparsity, to select the most significant effects for parsimonious representations; b) heredity, a pairwise interaction could only be included when at least one of its parent main effects exists; and c) marginal clarity, to make main effects and pairwise interactions mutually distinguishable. An adaptive training algorithm is developed, where main effects are first trained and then pairwise interactions are fitted to the residuals. Numerical experiments on both synthetic functions and real-world datasets show that the proposed model enjoys superior interpretability and it maintains competitive prediction accuracy in comparison to the explainable boosting machine and other classic machine learning models.

研究の動機と目的

• 深層ニューラルネットワークにおける解釈性の欠如に対処するため、内在的解釈性を持つモデルを開発すること。
• 構造化された相互作用と実行可能な解釈性制約を用いて、予測精度とモデルの透明性のバランスをとること。
• EBM らの既存の解釈可能なモデルを、ニューラルネットワークフレームワーク内でスパarsity、継承性、周辺明確性を組み込むことで改善すること。
• 1次元および2次元のプロットによる主効果と2項相互作用の可視化を可能にし、実用的な解釈性を実現すること。

提案手法

• GAMI-Net は、複数の加法的サブネットワークで構成される分離型の順方向ニューラルネットワークであり、それぞれが1つの主効果または2項相互作用をモデル化する。
• 各サブネットワークは、入力特徴量の非線形形状関数またはそれらの相互作用を表現するための多層パーセプトロンを用いる。
• L1正則化を用いてスパarsityを強制することで、顕著な効果のみを選択し、モデルの単純性を促進する。
• 継承性制約により、2項相互作用が含まれるのは、少なくとも一方の主効果が存在する場合に限られるため、構造的解釈性が保たれる。
• 周辺明確性が強制され、主効果と相互作用の重複を防ぎ、明確で解釈可能な寄与を保証する。
• 適応的訓練アルゴリズムは、最初に主効果を学習し、その後残差に2項相互作用をフィットさせることで、収束性と解釈性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 スパarsity、継承性、周辺明確性の制約を組み合わせることで、競争的な予測性能を維持しながら、内在的解釈性を持つニューラルネットワークを設計できるか？
• RQ2 構造化された相互作用をニューラルネットワークフレームワークに組み込むことで、モデルの透明性をどのように保証できるか？
• RQ3 スパarsity、継承性、周辺明確性の制約が、精度を犠牲にせずに解釈性をどの程度向上させるか？
• RQ4 予測性能と解釈性の観点から、GAMI-Net は EBM らの最先端の解釈可能なモデルと比べてどの程度優れているか？

主な発見

• GAMI-Net は16の実世界データセットにおいて競争的な予測性能を達成し、平均テストRMSE値が EBM や他のベンチマークモデルと同等または優れている。
• カリフォルニア住宅データセットでは、GAMI-Net がテストRMSE 4.708 ± 0.087 を達成し、EBM（5.777 ± 0.169）や他のモデルを上回った。
• 電力グリッドデータセットでは、GAMI-Net がテストRMSE 0.658 ± 0.019 を達成し、EBM（1.448 ± 0.028）を著しく上回った。
• アバロン、風力、エレベーターなどの多様なデータセットにおいても、GAMI-Net は一貫して低いRMSEを維持し、強固な一般化能力を示した。
• GAMI-Net の解釈性は、1次元プロットによる主効果と2次元ヒートマップによる2項相互作用の明確な可視化により向上し、ドメインエキスパートがモデルの挙動を検証できる。
• 主効果を相互作用よりも先に学習する適応的訓練手順により、安定した収束と向上したモデル忠実度が達成された。