[論文レビュー] An Interpretable Model with Globally Consistent Explanations for Credit Risk

Chaofan Chen, Kangcheng Lin+4 more|arXiv (Cornell University)|Nov 30, 2018

Explainable Artificial Intelligence (XAI)参考文献 14被引用数 65

ひとこと要約

本論文は、グローバルに解釈可能な2層の加法的リスクモデルを用いた信用デフォルト予測を提案し、単調性制約、サブスケールの解釈性、セットカバーの説明(SetCoverExplanation)による一貫したルールベースの要約、および対話型の可視化ツールを提供する。

ABSTRACT

We propose a possible solution to a public challenge posed by the Fair Isaac Corporation (FICO), which is to provide an explainable model for credit risk assessment. Rather than present a black box model and explain it afterwards, we provide a globally interpretable model that is as accurate as other neural networks. Our "two-layer additive risk model" is decomposable into subscales, where each node in the second layer represents a meaningful subscale, and all of the nonlinearities are transparent. We provide three types of explanations that are simpler than, but consistent with, the global model. One of these explanation methods involves solving a minimum set cover problem to find high-support globally-consistent explanations. We present a new online visualization tool to allow users to explore the global model and its explanations.

研究の動機と目的

• 精度を犠牲にせず、ブラックボックス型の信用リスクモデルに代わるグローバルに解釈可能な代替手段を提供する。
• 特徴を意味のあるサブスケールに分解して、解釈性と可視化を可能にする。
• 信用リスクのドメイン知識を反映するため、特徴に対して単調性制約を保証する。
• グローバルモデルと整合する一貫したルールベースの説明およびケースベースのビジュアルを開発する。
• モデル、説明、サブスケールの寄与を探索する対話型ツールを提供する。

提案手法

• 特徴をサブスケールにグループ化し、単調な区分定数関数を介して変換する2層の加法的リスクモデル（ARM）を提案する。
• 階段関数係数に非負制約を課して単調な関係を保証する。
• サブスケールスコアをシグモイド変換で計算し、それらを線形結合して最終的なシグモイドを通してデフォルト確率を得る。
• サブスケールを正則化を用いて独立に訓練するか、グローバル目的と共同で訓練し、スパース性と単調性を保持する。
• 3つの説明タイプを提供する：(i) サブスケール寄与による変数重要度、(ii) SetCoverExplanationを用いてグローバルに一貫した結合規則を生成、(iii) 類似の歴史ケースを見つけてケースベースの説明を行う。
• 完全なモデル、サブスケールの寄与、説明を表示するオンライン可視化ツールを開発する。

実験結果

リサーチクエスチョン

• RQ1 透明性を保ちながら、グローバルに解釈可能なモデルが信用リスクにおいてニューラルネットワークと同等の精度を達成できるか。
• RQ2 特徴のサブスケールを、リスク要因に対して意味があり、疎で、単調であるように設計するにはどうすればよいか。
• RQ3 忠実度を犠牲にせず、説明をグローバルに一貫したSetCoverBasedルールで作成できるか。
• RQ4 ユーザーがサブスケールの寄与と説明を探索する際、対話型ビジュアライゼーションの有効性はどの程度か。
• RQ5 信用リスクデータに対するSetCoverExplanationで、ルールの疎性とカバレッジのトレードオフはどのようになるか。

主な発見

• 2層の加法的リスクモデルは、解釈可能であるとともに他の機械学習手法と同等の精度を達成する。
• 23の元特徴から10のサブスケールに特徴を分割し、それぞれが意味のある解釈を持つサブスケールリスクスコアを生成する。
• 非負係数を持つ片側区間階段関数を用いて単調性制約を適用し、制約された特徴の単調な関係を保証する。
• SetCoverExplanationは、グローバルに一貫した高サポートの規則を生成し、モデルの挙動を要約し予測の広範なパターンを説明できる。
• 対話型の可視化ツールは、完全な計算過程、サブスケールの寄与、ケースベースの説明を示し、信頼と理解を支援する。
• 本手法は、解釈可能なグローバルな説明と局所的なケースベースの洞察を、曖昧なブラックボックスモデルに頼らずに提供する。