[論文レビュー] Towards Explainable Artificial Intelligence in Banking and Financial Services

Ambreen Hanif|arXiv (Cornell University)|Dec 14, 2021

Explainable Artificial Intelligence (XAI)被引用数 11

ひとこと要約

本論文は、取引分類における機械学習モデルの信頼性と解釈可能性を向上させるために、インタラクティブダッシュボードとリバース特徴工学を組み合わせた、銀行および金融サービス分野向けの新規の根拠に基づく説明可能なAI（XAI）パイプラインを提案する。このアプローチは、高いモデル性能を維持したまま、視覚的でインタラクティブな根拠を通じて意思決定を追跡可能にすることで、AI駆動のリスク評価に対する信頼を顕著に向上させる。

ABSTRACT

Artificial intelligence (AI) enables machines to learn from human experience, adjust to new inputs, and perform human-like tasks. AI is progressing rapidly and is transforming the way businesses operate, from process automation to cognitive augmentation of tasks and intelligent process/data analytics. However, the main challenge for human users would be to understand and appropriately trust the result of AI algorithms and methods. In this paper, to address this challenge, we study and analyze the recent work done in Explainable Artificial Intelligence (XAI) methods and tools. We introduce a novel XAI process, which facilitates producing explainable models while maintaining a high level of learning performance. We present an interactive evidence-based approach to assist human users in comprehending and trusting the results and output created by AI-enabled algorithms. We adopt a typical scenario in the Banking domain for analyzing customer transactions. We develop a digital dashboard to facilitate interacting with the algorithm results and discuss how the proposed XAI method can significantly improve the confidence of data scientists in understanding the result of AI-enabled algorithms.

研究の動機と目的

• 銀行および金融サービス分野におけるAI駆動意思決定の透明性と信頼性の欠如に対処すること。
• 高い学習性能を維持しつつ、人間のユーザーがモデル出力を理解・検証できる説明可能なAIフレームワークを開発すること。
• 取引分類のためのインタラクティブで根拠に基づくダッシュボードを通じて、データサイエンティストがAIの結果を理解できるように支援すること。
• モデル意思決定の解釈可能で視覚的かつインタラクティブな説明を提供することで、ステークホルダーがAIシステムに対して信頼を抱けるようにすること。
• 複雑なブラックボックスモデルと、金融分野における説明可能性のための規制的・運用的要件の間のギャップを埋めること。

提案手法

• 金融取引分類のための機械学習パイプラインと根拠に基づく推論を統合した新規XAIプロセスを提案する。
• デジタルでインタラクティブなダッシュボードを採用し、モデル出力を可視化するとともに、特徴量の寄与度をリアルタイムで探索可能にする。
• 訓練済みモデルから意味的で解釈可能な特徴量を特定・抽出するためにリバース特徴工学を活用する。
• 個々の取引意思決定を分析するための局所的説明技術を適用し、予測と特定の入力特徴量の間の関連を明確にする。
• 精度、信頼度スコア、類似度閾値に基づいてデータをフィルタリング・探索可能なチューナブルな可視化システムを設計する。
• モデルの異なるアルゴリズムバージョンおよび信頼度レベル間の比較を支援することで、意思決定とシステム改善に寄与する。

実験結果

リサーチクエスチョン

• RQ1 説明可能なAI技術をどのように金融取引分類に効果的に統合することで、モデルの解釈性を向上させられるか？
• RQ2 インタラクティブ可視化は、データサイエンティストがAI生成意思決定に対して信頼を抱くのをどの程度向上させるか？
• RQ3 リバース特徴工学を活用して、個々の取引予測のための意味的根拠を抽出・提示する方法は何か？
• RQ4 根拠に基づくXAIパイプラインは、透明性を高める一方で、どの程度高いモデルパフォーマンスを維持できるか？
• RQ5 複数の説明技術を統合されたダッシュボード内でどのように実装・比較できるか？

主な発見

• インタラクティブで根拠に基づく可視化により、本研究で提案するXAIパイプラインは、データサイエンティストがAI生成意思決定を理解し信頼する能力を顕著に向上させた。
• リバース特徴工学の統合により、ユーザーがモデル予測を特定の入力特徴量にまで遡って追跡可能となり、解釈性が向上した。
• インタラクティブダッシュボードにより、精度、信頼度スコア、類似度に基づいて取引をフィルタリング可能となり、可読性と意思決定支援が向上した。
• 異なる機械学習モデルバージョンおよび説明技術の比較を支援するため、モデル選択と改善に貢献した。
• 類似したまたは重複する取引を特定可能となり、エッジケースにおけるモデル行動の理解が深まった。
• プロトタイプは、予測能力に compromise をきたさずに、高性能なモデルを解釈可能にできる可能性を示した。