[論文レビュー] Towards Explainable Deep Learning for Credit Lending: A Case Study

Ceena Modarres, Mark Ibrahim+2 more|arXiv (Cornell University)|Nov 15, 2018

Explainable Artificial Intelligence (XAI)参考文献 10被引用数 11

ひとこと要約

この論文は、ロジスティック回帰の重みを基準として、信用リスク予測のための深層ニューラルネットワークの解釈可能性を評価する。LIME、DeepLift、Integrated Gradientsを用い、その結果、Integrated Gradientsがグローバル特徴重要度に最も近いが、説明結果は基準点の選択に極めて敏感であることが判明。金融分野におけるAIの説明可能性において、文脈に配慮した基準点の必要性が浮き彫りになった。

ABSTRACT

Deep learning adoption in the financial services industry has been limited due to a lack of model interpretability. However, several techniques have been proposed to explain predictions made by a neural network. We provide an initial investigation into these techniques for the assessment of credit risk with neural networks.

研究の動機と目的

• 深層学習による信用貸付予測の説明可能性を評価するためのアトリビューション手法（LIME、DeepLift、Integrated Gradients）の信頼性と妥当性を検証すること。
• これらの手法が、信用リスク評価の基準として認められている解釈可能なモデル（ロジスティック回帰）と整合した説明を提供するかどうかを評価すること。
• 信用リスクモデリングにおける基準ベクトル（ベースライン）の選択が、アトリビューション説明に与える感度を調査すること。
• 規制対象の金融分野における説明可能AIの信頼性、信頼性、およびユーザー理解を向上させるための今後の研究方向性を検討すること。

提案手法

• FICO Explainable Machine Learningデータセットを用いて、フィードフォワードニューラルネットワークを訓練し、90日以内の遅延（Y ∈ {0,1}）を予測した。
• 同じデータセットに対してロジスティック回帰を適用し、グローバル特徴重要度の重みを導出し、比較のための基準とみなした。
• LIME、DeepLift、Integrated Gradientsを用いて、個々の信用申請のための局所的アトリビューション説明を生成した。
• トップ特徴の一致度と、局所的アトリビューションとグローバルなロジスティック回帰重みとの類似度（L2ノルムとSpearmans rho順位距離）を用いて、アトリビューションの質を評価した。
• 申請者ごとにK回の反復で基準点（r）を変化させ、不確実性を評価し、標準偏差とシャノンエントロピーを指標とした。
• 候補者固有の基準点（例：意思決定境界、平均、ゼロの信用履歴）を検討し、それらがアトリビューションの安定性と解釈可能性に与える影響を評価した。

実験結果

リサーチクエスチョン

• RQ1 LIME、DeepLift、Integrated Gradientsは、信用リスク予測におけるロジスティック回帰のグローバル特徴重要度とどの程度一致するか？
• RQ2 信用貸付応用において、さまざまな基準点に対してアトリビューション手法はどの程度一貫性を示すか？
• RQ3 基準点の選択が、モデル説明の信頼性と不確実性に与える影響は何か？
• RQ4 個人化された、または文脈に即した基準点は、アトリビューションに基づく説明の信頼性と解釈可能性を向上させられるか？
• RQ5 信用リスク意思決定における、実行可能で直感的な説明を生成するための最も効果的な基準点は何か？

主な発見

• Integrated Gradientsは、ロジスティック回帰のグローバル特徴重みと最も類似しており、トップ特徴の一致度（7/7）とL2ノルムおよび順位距離の指標で優れていた。
• LIMEはロジスティック回帰ベンチマークの上位7特徴のうちわずか2つを特定しており、L2距離が小さいもののカバレッジが限定的であることが示された。
• アトリビューション結果は基準点の選択に極めて敏感であり、基準点の変更が申請者の実際のプロファイルの変更と同程度の説明変化を引き起こすことが判明した。
• 基準点を意思決定境界上での10番目に類似した候補者に制限することで、説明の分散（標準偏差が低くなった）が著しく減少し、エントロピーが上昇した。これは、説明の信頼性が向上したことを示唆している。
• 平均申請者や信用履歴のない候補者といった直感的な基準点は、モデルによって高リスクと評価されたため、中立的な基準点としての使用が不適切であることが判明した。
• 意思決定境界上での類似した申請者に基づくパーソナライズドな基準点は、不確実性を低減させ、説明の信頼性を向上させる可能性を示しており、金融AIにおける文脈に配慮した説明可能性への道筋を示唆している。