[论文解读] Towards Explainable Artificial Intelligence in Banking and Financial Services

Ambreen Hanif|arXiv (Cornell University)|Dec 14, 2021

Explainable Artificial Intelligence (XAI)被引用 11

一句话总结

本文提出了一种新颖的基于证据的可解释人工智能（XAI）流程，专为银行和金融服务领域设计，结合交互式仪表板与反向特征工程，以增强机器学习模型在交易分类中的可信度与可解释性。该方法在保持高模型性能的同时，使数据科学家能够通过可视化、交互式的证据追溯决策过程，显著提升对AI驱动风险评估的信心。

ABSTRACT

Artificial intelligence (AI) enables machines to learn from human experience, adjust to new inputs, and perform human-like tasks. AI is progressing rapidly and is transforming the way businesses operate, from process automation to cognitive augmentation of tasks and intelligent process/data analytics. However, the main challenge for human users would be to understand and appropriately trust the result of AI algorithms and methods. In this paper, to address this challenge, we study and analyze the recent work done in Explainable Artificial Intelligence (XAI) methods and tools. We introduce a novel XAI process, which facilitates producing explainable models while maintaining a high level of learning performance. We present an interactive evidence-based approach to assist human users in comprehending and trusting the results and output created by AI-enabled algorithms. We adopt a typical scenario in the Banking domain for analyzing customer transactions. We develop a digital dashboard to facilitate interacting with the algorithm results and discuss how the proposed XAI method can significantly improve the confidence of data scientists in understanding the result of AI-enabled algorithms.

研究动机与目标

• 解决银行和金融服务领域中AI驱动决策缺乏透明度与可信度的问题。
• 开发一种可解释人工智能框架，保持高性能的同时使人类用户能够理解并验证模型输出。
• 通过交互式、基于证据的仪表板支持数据科学家理解AI结果，用于交易分类。
• 通过提供可解释、可视化且交互式的模型决策说明，提升利益相关者对AI系统的信心。
• 弥合复杂黑箱模型与金融领域对可解释性监管或运营要求之间的差距。

提出的方法

• 提出一种新颖的XAI流程，将基于证据的推理与金融交易分类的机器学习流程相结合。
• 采用数字化、交互式仪表板，可视化模型输出，并支持对特征贡献的实时探索。
• 利用反向特征工程，从训练好的模型中识别并提取有意义且可解释的特征。
• 应用局部解释技术分析单个交易决策，将预测结果与特定输入特征关联。
• 设计可调节的可视化系统，允许用户根据准确率、置信度分数和相似度阈值筛选和探索数据。
• 支持不同算法版本和置信度水平下模型的对比，以辅助决策与系统优化。

实验结果

研究问题

• RQ1 如何有效将可解释人工智能技术整合到金融交易分类中，以提升模型的可解释性？
• RQ2 交互式可视化在提升数据科学家对AI生成决策信心方面发挥什么作用？
• RQ3 如何利用反向特征工程提取并呈现单个交易预测的有意义证据？
• RQ4 基于证据的XAI流程在提升透明度的同时，能在多大程度上保持高性能？
• RQ5 如何在一个统一的仪表板中实现并比较多种解释技术，以应用于金融场景？

主要发现

• 所提出的XAI流程通过交互式、基于证据的可视化，显著提升了数据科学家对AI生成决策的理解与信任信心。
• 反向特征工程的集成使用户能够将模型预测追溯到特定的输入特征，从而增强可解释性。
• 交互式仪表板支持用户按准确率、置信度分数和相似度进行交易过滤，提升可读性与决策支持能力。
• 该系统支持不同机器学习模型版本及解释技术的对比，有助于模型选择与优化。
• 该方法能够识别出匹配度高或重叠的交易，提升对模型在边缘案例行为的理解。
• 原型验证表明，高性能模型可在不牺牲其预测能力的前提下实现可解释性。