[論文レビュー] A Comprehensive Review on Financial Explainable AI

Wei Jie Yeo, Wihan van der Heever+4 more|arXiv (Cornell University)|Sep 21, 2023

Stock Market Forecasting Methods被引用数 17

ひとこと要約

金融における FinXAI 手法の比較調査で、モデルと結果の説明性、対象読者、倫理的目標を詳述し、対象読者中心の説明のためのフレームワークを提供します。

ABSTRACT

The success of artificial intelligence (AI), and deep learning models in particular, has led to their widespread adoption across various industries due to their ability to process huge amounts of data and learn complex patterns. However, due to their lack of explainability, there are significant concerns regarding their use in critical sectors, such as finance and healthcare, where decision-making transparency is of paramount importance. In this paper, we provide a comparative survey of methods that aim to improve the explainability of deep learning models within the context of finance. We categorize the collection of explainable AI methods according to their corresponding characteristics, and we review the concerns and challenges of adopting explainable AI methods, together with future directions we deemed appropriate and important.

研究の動機と目的

• FinXAI を定義し、金融への関連性を説明する。
• 透明性、近接性、説明手順、対象読者で説明可能性の方法を分類する。
• 金融における説明可能性の倫理目標と関係者のニーズを分析する。
• 説明可能性を統合できる設計ワークフローの位置を要約する。
• 金融における FinXAI の採用における課題と今後の方向性を検討する。

提案手法

• 金融の説明可能性に関する 69 論文のターゲットを絞った文献調査を行う。
• 方法を分類する分類法を用いる：透明性（ intrinsic vs post-hoc ）、近接性（局所 vs 全体）、説明手順（テキスト、視覚、事例ベース、簡略化、特徴量の関連性）、対象読者、データ分析、説明の種類（事実的、反事実的）。
• 信用評価、金融予測、金融分析における応用を区別する。
• 説明が倫理的目標（信頼、公平性、情報提供性、アクセス性、プライバシー、確信、因果性、移転性）とどのように整合するかを評価する。
• 説明を対象読者と利用ケースに合わせて整合させる FinXAI プロセスフレームワークを提案する。

Figure 1. Levels of explanation requirements by different audiences, categorized by explanation proximity, and ordered by scrutiny level. Local proximity refers to explanations concerned about a specific outcome. Global proximity refers to the underlying reasoning and mechanics of an AI model). End-

実験結果

リサーチクエスチョン

• RQ1 金融のために提案された FinXAI 手法は何であり、透明性と説明形態はどのように異なるか。
• RQ2 金融において異なる対象読者（エンドユーザー、開発者、規制当局）に対して説明をどのように調整すべきか。
• RQ3 FinXAI 技術はどのような倫理的目標に対応しており、採用に残る課題は何か。
• RQ4 モデル開発ライフサイクルのどの段階で説明可能性を最大の影響を持って組み込むべきか。
• RQ5 現在の FinXAI 文献における傾向（例：post-hoc 対 intrinsic）とギャップは何か。

主な発見

• 大部分の検討論文は intrinsic モデルより post-hoc の説明可能性に焦点を当てている。
• エンドユーザーは局所的な説明を好む一方で、規制当局や専門家は全体的な理解のためのグローバルな説明を求める。
• テキスト、視覚、事例ベースの説明が共存し、特徴量の関連性説明が一般的である。
• 反事実的な説明は金融において望ましい説明形式として明示的に求められている。
• 説明は信頼性、公平性、情報提供性、アクセス性、プライバシー意識、確信、因果性、移転性といった倫理目標と整合している。
• 本論文は FinXAI 技術を対象読者別の目標に合わせるためのフレームワークを提供し、実装の課題と今後の方向性を論じている。

Figure 2. Ethical goals are classified under three broad audiences: end-users, developers/domain experts, and internal/external regulatory authorities. Some ethical goals are shared by the three different audiences considered, such as informativeness. (Arrieta et al . , 2020 )