[論文レビュー] Interpretability is Harder in the Multiclass Setting: Axiomatic Interpretability for Multiclass Additive Models.

Xuezhou Zhang, Sarah Tan+4 more|arXiv (Cornell University)|Oct 22, 2018

Explainable Artificial Intelligence (XAI)参考文献 28被引用数 3

ひとこと要約

本稿では、解釈可能性を維持するための後処理補正技術であるAPI（公理的後処理解釈可能性）を用いた、多クラス分類のための一般化加法モデル（GAM）フレームワークを提案する。ブースティング木ベースのGAM学習を多クラス設定に拡張し、視覚的な解釈可能性を保証する2つの公理を導入する。APIは、精度を損なわずに任意の事前学習済み多クラス加法モデルに対してこれらの公理を強制する。12クラスの乳児死亡率データセットを用いた検証が行われた。

ABSTRACT

Generalized additive models (GAMs) are favored in many regression and binary classification problems because they are able to fit complex, nonlinear functions while still remaining interpretable. In the first part of this paper, we generalize a state-of-the-art GAM learning algorithm based on boosted trees to the multiclass setting, and show that this multiclass algorithm outperforms existing GAM fitting algorithms and sometimes matches the performance of full complex models. In the second part, we turn our attention to the interpretability of GAMs in the multiclass setting. Surprisingly, the natural interpretability of GAMs breaks down when there are more than two classes. Drawing inspiration from binary GAMs, we identify two axioms that any additive model must satisfy to not be visually misleading. We then develop a post-processing technique (API) that provably transforms pretrained additive models to satisfy the interpretability axioms without sacrificing accuracy. The technique works not just on models trained with our algorithm, but on any multiclass additive model. We demonstrate API on a 12-class infant-mortality dataset.

研究の動機と目的

• 最先端のブースティング木ベースのGAM学習を多クラス分類設定に拡張すること。
• 多クラス加法モデルにおける視覚的な誤解を避けるために必要な基本的解釈可能性公理を同定すること。
• 任意の事前学習済み多クラス加法モデルに対してこれらの公理を強制する後処理技術（API）を開発すること。
• 多クラス設定において解釈可能性を確保しながらも、モデルの精度を維持すること。
• 実世界の12クラスの乳児死亡率データセットを用いて手法を検証すること。

提案手法

• 最先端のブースティング木アルゴリズムを多クラス設定に一般化し、多クラスGAMの学習に用いる。
• 多クラス状況における加法モデルが視覚的に誤解を招かないように保証する2つの公理—局所的一致性とグローバル単調性—を定義する。
• 任意の事前学習済み多クラス加法モデルの出力ロジットを再パラメータ化して公理を満たす後処理アルゴリズム（API）を開発する。
• APIは学習アルゴリズムに依存せず、あらゆる多クラス加法モデルに普遍的に適用可能である。
• 特徴量の寄与度がすべてのクラスにわたって視覚的に一貫して解釈可能であることを保証する。
• 元の予測性能を維持しながらモデル出力を調整する制約付き最適化フレームワークを採用する。

実験結果

リサーチクエスチョン

• RQ1 一般化加法モデルを、解釈可能性を保ちつつ多クラス分類に効果的に拡張する方法は何か？
• RQ2 多クラス加法モデルが視覚的に誤解を招かないようにするために必要な公理は何か？
• RQ3 精度を低下させることなく、解釈可能性公理を強制する後処理技術を設計できるか？
• RQ4 提案されたAPI手法は、さまざまな多クラス加法モデルやデータセットに普遍的に適用可能か？
• RQ5 APIを適用したモデルの実世界の多クラスベンチマークにおける実効性は何か？

主な発見

• 提案された多クラスGAM学習アルゴリズムは、既存のGAMフィッティング手法を上回り、一部のケースでは複雑なモデルと同等の性能を示した。
• GAMの自然な解釈可能性は、クラス間で特徴量の寄与度のパターンが一貫しないことにより、多クラス設定では崩壊する。
• 提案された2つの解釈可能性公理—局所的一致性とグローバル単調性—は、特徴量効果の誤った可視化を防ぐ。
• API後処理手法は、精度を損なわせることなく、任意の事前学習済み多クラス加法モデルに対してこれらの公理を成功裏に強制した。
• 12クラスの乳児死亡率データセットにおいて、API変換済みモデルはすべてのクラスにわたって視覚的に一貫した解釈可能な特徴量寄与度を示した。
• 本手法は普遍的に適用可能であり、多クラス加法モデルの分野におけるさまざまな学習アルゴリズムやモデルアーキテクチャに適用可能である。