[论文解读] Perfectly Parallel Fairness Certification of Neural Networks

Caterina Urban, Maria Christakis+2 more|arXiv (Cornell University)|Dec 5, 2019

Adversarial Robustness in Machine Learning参考文献 46被引用 6

一句话总结

本文提出了一种完全并行的静态分析方法，用于对用于表格数据分类的前馈神经网络进行因果公平性认证。通过结合前向和后向静态分析来划分输入空间并针对每个分区验证公平性，该方法提供了可靠、精确且可配置的认证——在成功时提供确定性保证，失败时则提供精确的偏差表征。该方法在真实世界数据集上表现出色，资源使用呈可扩展的、按需付费模式。

ABSTRACT

Recently, there is growing concern that machine-learning models, which currently assist or even automate decision making, reproduce, and in the worst case reinforce, bias of the training data. The development of tools and techniques for certifying fairness of these models or describing their biased behavior is, therefore, critical. In this paper, we propose a perfectly parallel static analysis for certifying causal fairness of feed-forward neural networks used for classification of tabular data. When certification succeeds, our approach provides definite guarantees, otherwise, it describes and quantifies the biased behavior. We design the analysis to be sound, in practice also exact, and configurable in terms of scalability and precision, thereby enabling pay-as-you-go certification. We implement our approach in an open-source tool and demonstrate its effectiveness on models trained with popular datasets.

研究动机与目标

• 为应对机器学习模型中日益增长的偏见问题，特别是在刑事司法和医疗保健等高风险应用中的问题。
• 开发一种可扩展且精确的方法，用于认证神经网络中的因果公平性，这是一种覆盖所有输入的全局属性，而非局限于局部鲁棒性。
• 在公平性获得认证时提供确定性保证，在未通过认证时提供偏差行为的精确量化，以支持可信部署。
• 通过分区和可恢复分析支持增量式和按需认证，允许在可扩展性与精度之间进行可配置的权衡。

提出的方法

• 该方法使用前向静态分析，基于输入约束将神经网络的输入空间划分为独立且可管理的区域。
• 随后对每个分区以完全并行的方式应用后向静态分析，以验证所选敏感特征下的因果公平性。
• 该方法具有可靠性，在实践中为精确结果，确保公平性认证中无误报或漏报。
• 通过排除不满足用户定义的精度或可扩展性阈值的分区，支持可配置分析，实现增量执行。
• 该框架支持对整个输入空间的分析以及针对特定输入区域的针对性偏差查询，例如“拉丁裔美国人中45岁以上人群在性别方面是否受到歧视？”
• 实现中使用符号执行和抽象域（例如 DeepPoly）对基于 ReLU 的神经网络进行精确且可扩展的分析。

实验结果

研究问题

• RQ1 我们能否使用静态分析在前馈神经网络中对表格数据实现因果公平性的可靠且精确的认证？
• RQ2 如何在保持精度的同时将公平性认证扩展到大规模输入空间，并支持增量执行？
• RQ3 我们能否在不分析整个输入空间的情况下，对特定输入子区域支持针对性的偏差查询？
• RQ4 在实践中，分析精度与可扩展性之间的权衡如何影响性能和覆盖范围？
• RQ5 该方法能否在多个 CPU 上实现有效并行化，以提高运行效率？

主要发现

• 在使用高精度配置时，该方法在日本信贷筛选数据集中成功对 100% 的输入分区完成了公平性认证，仅用 10 个 CPU 在 20 分钟内实现全量覆盖。
• 在 COMPAS 数据集中，该方法在 10 个 CPU 下用时不足 30 分钟实现了 99.98% 的公平性覆盖，同时保持了高精度和精确性。
• 符号执行与 DeepPoly 等抽象域的结合，使对 ReLU 网络的分析达到高精度，且误报极少。
• 该框架展现出强大的并行可扩展性，随着 CPU 数量增加，分析时间显著减少，尤其在高精度配置下表现突出。
• 按需设计允许在配置放宽的情况下恢复未完成的分析，使该方法可在资源受限环境中部署。
• 与基线方法相比，该方法在覆盖范围和速度方面均表现更优，尤其在高精度设置下，分析时间根据配置和数据集复杂度在 15 分钟至 52 小时之间不等。