[论文解读] Learning Fair Rule Lists

Ulrich Aïvodji, Julien Ferry+3 more|arXiv (Cornell University)|Sep 9, 2019

Ethics and Social Impacts of AI参考文献 83被引用 7

一句话总结

本文提出 FairCORELS，一种多目标分支定界算法，可在多种统计公平性概念下学习具有可证明最优性的规则列表。该方法在真实世界数据集上实现了优于现有可解释公平模型的准确率/公平性权衡，并在准确率/公平性权衡方面与非可解释的最先进方法相当。

ABSTRACT

As the use of black-box models becomes ubiquitous in high stake decision-making systems, demands for fair and interpretable models are increasing. While it has been shown that interpretable models can be as accurate as black-box models in several critical domains, existing fair classification techniques that are interpretable by design often display poor accuracy/fairness tradeoffs in comparison with their non-interpretable counterparts. In this paper, we propose FairCORELS, a fair classification technique interpretable by design, whose objective is to learn fair rule lists. Our solution is a multi-objective variant of CORELS, a branch-and-bound algorithm to learn rule lists, that supports several statistical notions of fairness. Examples of such measures include statistical parity, equal opportunity and equalized odds. The empirical evaluation of FairCORELS on real-world datasets demonstrates that it outperforms state-of-the-art fair classification techniques that are interpretable by design while being competitive with non-interpretable ones.

研究动机与目标

• 解决可解释公平分类方法中准确率/公平性权衡不佳的问题。
• 设计一种内在透明且具有可证明最优性的公平可解释模型。
• 将 CORELS —— 一种规则列表学习算法 —— 扩展以支持多种公平性定义的约束。
• 使用多样化的公平性度量，在真实世界数据集上评估该方法。
• 证明可解释的公平模型可以达到与非可解释公平基线相当的性能。

提出的方法

• FairCORELS 通过多目标优化框架扩展 CORELS，联合最小化分类误差与不公平性。
• 支持多种公平性概念，包括统计独立性、机会均等、机会均等化、预测公平性以及条件使用准确率相等性。
• 该算法使用分支定界法，结合紧致的下界与上界，高效搜索规则列表空间。
• 不公平性通过针对每种公平性定义量身定制的统计差异度量进行衡量。
• 该方法计算非支配解的帕累托前沿，以平衡公平性与准确率。
• 该方法对公平性度量的选择具有无关性，支持不同公平性定义的即插即用式集成。

实验结果

研究问题

• RQ1 规则列表模型是否能在保持可解释性的同时，实现高准确率与强公平性保障？
• RQ2 FairCORELS 的性能与最先进可解释与非可解释公平分类方法相比如何？
• RQ3 分支定界方法在多种公平性约束下，其可扩展性如何？
• RQ4 在规则列表学习中引入公平性约束是否会导致准确率相比非公平模型下降？
• RQ5 FairCORELS 是否能识别出优于现有可解释公平模型的公平性-准确率权衡？

主要发现

• 在 Adult 和 COMPAS 数据集上，FairCORELS 在公平性-准确率权衡方面优于现有可解释公平分类技术。
• 在 Adult 数据集上，SP 约束的规则列表实现了 80.1% 的准确率，仅具有 1.9% 的统计独立性不公平性。
• 在同一数据集上，EOpp 约束的规则列表达到了 82.3% 的准确率和 0.8% 的机会均等不公平性。
• 在 COMPAS 数据集上，EOdds 约束的规则列表实现了 59.1% 的准确率，且仅具有 4.8% 的机会均等化不公平性，显著降低了不公平性，同时保持了合理的准确率。
• 在 COMPAS 数据集上，CUAE 约束的规则列表实现了 64.5% 的准确率，且仅具有 0.9% 的条件使用准确率相等性不公平性。
• FairCORELS 表明，可解释模型可以在公平性-准确率性能上达到与非可解释公平模型相当的水平，尤其是在帕累托最优区域。