[論文レビュー] An interpretable neural network model through piecewise linear approximation

Mengzhuo Guo, Qingpeng Zhang+2 more|arXiv (Cornell University)|Jan 20, 2020

Neural Networks and Applications参考文献 8被引用数 7

ひとこと要約

この論文では、Wide & Deepフレームワークの下で、分離線形近似と多層パーセプトロンを組み合わせたハイブリッドニューラルネットワークモデルPiLiDを提案する。このモデルは、高い予測精度と内在的解釈可能性の両方を達成する。学習可能な分離線形関数を通じて特徴量の寄与を明示的にモデル化することにより、特徴量の形状を解釈可能に保ちつつ、ベンチマークデータセットで最先端の性能を維持する。

ABSTRACT

Most existing interpretable methods explain a black-box model in a post-hoc manner, which uses simpler models or data analysis techniques to interpret the predictions after the model is learned. However, they (a) may derive contradictory explanations on the same predictions given different methods and data samples, and (b) focus on using simpler models to provide higher descriptive accuracy at the sacrifice of prediction accuracy. To address these issues, we propose a hybrid interpretable model that combines a piecewise linear component and a nonlinear component. The first component describes the explicit feature contributions by piecewise linear approximation to increase the expressiveness of the model. The other component uses a multi-layer perceptron to capture feature interactions and implicit nonlinearity, and increase the prediction performance. Different from the post-hoc approaches, the interpretability is obtained once the model is learned in the form of feature shapes. We also provide a variant to explore higher-order interactions among features to demonstrate that the proposed model is flexible for adaptation. Experiments demonstrate that the proposed model can achieve good interpretability by describing feature shapes while maintaining state-of-the-art accuracy.

研究の動機と目的

• 後処理による解釈可能性手法の限界、すなわち一貫性の欠如と単純化のための予測精度の犠牲を是正すること。
• トレーニング中にモデル構造に直接解釈可能性を埋め込むモデルベースの解釈可能性アプローチの開発。
• 外部のスラッグモデルに依存せず、人間が読み取り可能な特徴量寄与形状（例：非線形的、セグメント化された関係）を明示的に提供すること。
• 複雑な特徴量相互作用を捉えるために深層ニューラルネットワーク部を統合することで、高い予測性能を維持すること。
• より高次の特徴量相互作用を捉えることができるが、解釈可能性を保つ変種（PiLiB）を用いた柔軟性の実証。

提案手法

• モデルは、解釈可能性のための分離線形部と表現力のための深層ニューラルネットワーク部を組み合わせたWide & Deepアーキテクチャを採用する。
• 分離線形部は、学習可能なノードと勾配を用いて複雑な非線形的特徴量寄与を近似し、特徴量の形状を明示的に可視化可能にする。
• 深層部は、多層パーセプトロン（MLP）を用いて高次の特徴量相互作用をモデル化し、予測精度を向上させる。
• 両部はエンド・トゥ・エンドの誤差逆伝播により同時に最適化され、解釈可能性と予測性能の整合性が保証される。
• モデルの解釈可能性は内在的である。特徴量の形状は、後処理分析ではなく、学習済みの分離線形重みから直接導出される。
• PiLiBという変種は、相互作用項に対しても分離線形近似を適用することで、高次の相互作用を捉えるように拡張されている。

実験結果

リサーチクエスチョン

• RQ1 ハイブリッドニューラルネットワークモデルは、後処理による説明手法に依存せずに、高い予測精度と内在的解釈可能性を両立できるか？
• RQ2 分離線形近似を用いることで、線形モデルや非線形ブラックボックスモデルと比較して、特徴量寄与の解釈性はどのように向上するか？
• RQ3 明示的かつ可視化可能な特徴量形状を提供しつつ、最先端の性能をどの程度維持できるか？
• RQ4 解釈可能性を保ちながら、高次の特徴量相互作用を捉えるためにモデルを拡張できるか？
• RQ5 異なるデータスケールや特徴量次元において、解釈可能性と性能の向上はどの程度頑健か？

主な発見

• PiLiDモデルは、Bike Sharing、Bank Marketing、Spambase、SkillCraftを含むすべてのテストデータセットで最先端のAUC性能を達成し、大規模データセットではAUC値が常に0.90以上であった。
• N=15000のBike Sharingデータセットにおいて、PiLiD-20はAUC 0.9215 ± 0.0071を達成し、MLPベースライン（0.9211 ± 0.0048）を上回りながらも、完全な解釈可能性を提供した。
• モデルの分離線形部は、非単調的またはセグメント化されたパターンを含む複雑な非線形的特徴量関係を効果的に捉えており、視覚的に解釈可能である。
• PiLiB変種は高次の相互作用を効果的にモデル化しており、より複雑な解釈ニーズに対応するモデルの適応性を示している。
• 共同学習スキームにより、解釈可能性と性能のトレードオフが生じず、分離線形部が表現力を高めつつも精度を損なわないことが保証された。
• 後処理手法と比較して、PiLiDは矛盾した説明を回避し、スラッグモデルの再トレーニングの必要性を排除し、安定的かつ一貫性のある解釈を提供した。