[论文解读] Fairness Assessment for Artificial Intelligence in Financial Industry

Yukun Zhang, Longsheng Zhou|arXiv (Cornell University)|Dec 16, 2019

Ethics and Social Impacts of AI参考文献 16被引用 12

一句话总结

本文提出了一种用于金融领域人工智能的定量公平性评估框架，采用统计方法处理数据不平衡问题，并减轻信用卡违约预测中的偏见。结果表明，数据平衡显著提升了模型性能并降低了假阴性率，而重加权等偏见缓解技术有助于减少不公平结果，尤其是在原始数据中存在隐藏偏见的情况下。

ABSTRACT

Artificial Intelligence (AI) is an important driving force for the development and transformation of the financial industry. However, with the fast-evolving AI technology and application, unintentional bias, insufficient model validation, immature contingency plan and other underestimated threats may expose the company to operational and reputational risks. In this paper, we focus on fairness evaluation, one of the key components of AI Governance, through a quantitative lens. Statistical methods are reviewed for imbalanced data treatment and bias mitigation. These methods and fairness evaluation metrics are then applied to a credit card default payment example.

研究动机与目标

• 解决金融行业中人工智能应用面临的公平性挑战，特别是与偏见或数据不平衡相关的问题。
• 评估统计方法在处理信用违约预测模型中数据不平衡和减少偏见方面的有效性。
• 展示公平性度量如何指导模型开发并减少非故意的歧视。
• 为金融机构的人工智能治理提供可操作的公平性评估框架。

提出的方法

• 本研究应用重加权和合成数据生成等统计技术，对信用卡违约预测中的不平衡数据集进行平衡处理。
• 使用公平性度量（包括统计独立差异、平等机会差异和差异影响）量化性别群体间的偏见程度。
• 采用四案例实验设计，评估数据平衡与偏见缓解对模型性能和公平性的影响。
• 模型在真实世界信用卡违约数据集上进行训练与测试，性能通过准确率、F1得分和假阴性率进行衡量。
• 将重加权算法作为预处理方法，调整样本权重以减少群体间的差异。
• 通过对比各案例的结果，分离出数据平衡与偏见缓解对公平性与模型准确率的独立影响。

实验结果

研究问题

• RQ1 数据不平衡在信用风险预测模型中如何影响公平性与模型性能？
• RQ2 预处理技术（如重加权）在多大程度上可减少金融服务业人工智能模型中的性别偏见？
• RQ3 数据平衡与偏见缓解对模型公平性与准确率的相对影响是什么？
• RQ4 不同公平性度量（如统计独立性、平等机会）如何反映基于性别的贷款决策中的偏见？
• RQ5 合成数据生成是否会放大现有偏见，以及如何加以缓解？

主要发现

• 在案例4中，采用合成平衡数据并随后进行重加权，模型准确率达到最高（0.83），假阴性率最低（0.19），表明对违约案例的检测能力显著提升。
• 在统计独立性方面，男性与女性群体之间的公平性差异从合成数据中的0.3034下降至案例4的0.1621，表明偏见得到明显缓解。
• 尽管实施了重加权，偏见减少仍有限——统计独立性差异维持在0.1621，表明仅靠偏见缓解可能无法完全纠正深层次的数据不平衡问题。
• 在人为操纵数据的案例（案例5）中，若人为增加30%的男性违约案例，统计独立性差异上升至0.5614，证实存在显著偏见。
• 在案例5中实施偏见缓解后，统计独立性差异降至0.03178，表明重加权能有效减少人为引入的偏见。
• 研究发现，数据平衡对模型性能的影响强于偏见缓解，表明数据质量是公平性实现的基础性因素。