[论文解读] Fair lending needs explainable models for responsible recommendation

Jiahao Chen|arXiv (Cornell University)|Sep 12, 2018

Explainable Artificial Intelligence (XAI)参考文献 26被引用 23

一句话总结

本文主张，金融服务业中的公平放贷需要可解释的机器学习模型，以确保符合《平等信用机会法》（ECOA）和《联邦住房法》（FHA）等反歧视法律。本文通过基于代理的种族估算和模型透明度，将公平性和可解释性整合到信用推荐系统中，解决差别影响问题，使监管机构能够在不损害隐私或公平性的前提下审计决策。

ABSTRACT

The financial services industry has unique explainability and fairness challenges arising from compliance and ethical considerations in credit decisioning. These challenges complicate the use of model machine learning and artificial intelligence methods in business decision processes.

研究动机与目标

• 解决金融服务业中机器学习模型必须符合ECOA和FHA等法规的公平放贷实践挑战。
• 调和使用与受保护群体（如种族或年龄）相关联的预测特征（如邮编、信用记录）与避免差别影响之间的矛盾。
• 开发一种在受保护群体成员身份（如种族）未知时评估信用推荐系统公平性的框架。
• 实现人工智能驱动的信用推荐中可解释性，以满足监管要求并增强消费者信任。
• 提出一种使用代理模型估算种族以进行公平性评估的方法，而无需直接访问敏感属性。

提出的方法

• 使用代理模型从非敏感特征（如姓名、地址、邮编）推断种族，以评估差别影响。
• 应用消费者金融保护局（CFPB）的公平性评估方法，评估模型在不同受保护群体中的结果表现。
• 集成LIME或类似局部代理模型等可解释性技术，以解释个体信用决策。
• 设计避免使用与受保护群体（如邮编、年龄）高度相关的特征的信用推荐系统，以降低差别影响风险。
• 实施模型审计流程，通过统计方法和代理评估，测试受保护群体中的不利影响。
• 调整直接营销中的推荐系统工作流程，确保符合FCRA要求，该法将预筛选的推荐视为正式信用Offer。

实验结果

研究问题

• RQ1 如何使信用决策中的机器学习模型具备可解释性，以满足金融服务业的监管和伦理要求？
• RQ2 使用与受保护群体（如种族或年龄）相关的特征（如邮编或信用记录）会产生何种影响？
• RQ3 当无法获取直接数据时，代理模型在公平性评估中对种族的估算准确度在多大程度上可靠？
• RQ4 在未明确访问受保护群体标签的情况下，如何衡量并减轻信用推荐系统中的差别影响？
• RQ5 当前的公平性评估方法在应用于现实世界金融AI系统时存在哪些局限性？

主要发现

• 在信用模型中使用邮编会因与种族（受公平放贷法保护的类别）存在强相关性，而带来严重的红线政策（redlining）风险。
• 信用历史长度等特征可能与年龄（另一受保护类别）存在间接相关性，从而引入潜在的差别影响。
• 监管机构使用的基于代理的种族估算方法可能高估差别影响，导致争议和监管不确定性。
• 即使看似中立的政策（如最低贷款金额）也可能对受保护群体造成偏见，凸显了主动进行公平性检查的必要性。
• 信用营销中的推荐系统必须与直接信用决策一样，满足相同的公平性和可解释性标准，因为FCRA将预筛选推荐视为正式Offer。
• 在公平、可问责、透明的人工智能领域，仍存在一个关键缺口：在缺乏已知受保护群体标签的情况下评估差别影响。