[论文解读] PrivFair: a Library for Privacy-Preserving Fairness Auditing

Sikha Pentyala, David Melanson+2 more|arXiv (Cornell University)|Feb 8, 2022

Privacy-Preserving Technologies in Data被引用 4

一句话总结

PrivFair 是一个新颖的库，通过安全多方计算（MPC）实现机器学习模型的隐私保护公平性审计，使模型所有者和审计员能够在不披露敏感模型参数或审计数据的情况下评估公平性度量（如人口均等性和机会均等性）。该系统支持两方计算（2PC）和三方计算（3PC）威胁模型，在保持准确性和可扩展性的同时，确保了对表格数据和图像数据的保密性。

ABSTRACT

Machine learning (ML) has become prominent in applications that directly affect people's quality of life, including in healthcare, justice, and finance. ML models have been found to exhibit discrimination based on sensitive attributes such as gender, race, or disability. Assessing if an ML model is free of bias remains challenging to date, and by definition has to be done with sensitive user characteristics that are subject of anti-discrimination and data protection law. Existing libraries for fairness auditing of ML models offer no mechanism to protect the privacy of the audit data. We present PrivFair, a library for privacy-preserving fairness audits of ML models. Through the use of Secure Multiparty Computation (MPC), PrivFair protects the confidentiality of the model under audit and the sensitive data used for the audit, hence it supports scenarios in which a proprietary classifier owned by a company is audited using sensitive audit data from an external investigator. We demonstrate the use of PrivFair for group fairness auditing with tabular data or image data, without requiring the investigator to disclose their data to anyone in an unencrypted manner, or the model owner to reveal their model parameters to anyone in plaintext.

研究动机与目标

• 解决公平性审计工具中同时保护模型隐私和敏感审计数据的关键空白。
• 在无需向外部各方披露模型权重或审计数据的情况下，实现对专有机器学习模型的公平性评估。
• 在医疗、金融和刑事司法等高风险领域中支持现实世界的公平性审计场景，这些领域中数据和模型的保密性在法律和伦理上至关重要。
• 提供一个实用且可扩展的框架，可与现有公平性度量集成，并支持多种模型架构。

提出的方法

• PrivFair 使用安全多方计算（MPC）在加密的模型参数和审计数据份额上进行联合计算，确保任一方均不会以明文形式暴露其输入。
• 系统在两方计算（2PC）模型中运行，模型所有者和审计员直接计算公平性度量；或在三方计算（3PC）模型中运行，由不可信的云服务器在加密份额上执行计算。
• 所有计算均在有限整数环 𝕫_q 上执行，以确保与 MPC 协议的兼容性及数值稳定性。
• 该库实现了核心公平性度量的 MPC 协议，包括人口均等性、机会均等性、公平几率均等性和子组准确率。
• 通过与基于 MPC 的推理协议集成，支持表格数据和图像数据，适用于逻辑回归和卷积神经网络（ConvNets）等模型。
• 该架构支持在 3PC 模式下的异步执行，使审计员能够从云服务器查询预先共享的加密模型，而无需持续交互。

实验结果

研究问题

• RQ1 是否可以在不披露敏感模型参数或审计数据的情况下，对专有机器学习模型进行公平性审计？
• RQ2 如何有效应用安全多方计算以实现在现实机器学习部署场景中的隐私保护公平性评估？
• RQ3 使用 MPC 进行公平性审计的性能开销是多少，是否在隐私敏感的实际应用中可接受？
• RQ4 相同的 MPC 基础设施是否能够统一且可扩展地支持模型推理和公平性度量计算？
• RQ5 该系统在不同模型架构和数据类型（包括图像和表格数据）上的可扩展性如何？

主要发现

• PrivFair 通过 MPC 有效实现了对表格数据和图像数据的隐私保护公平性审计，且未以明文形式披露模型参数或审计数据。
• 系统实现了准确的公平性度量计算——例如，男性的人口均等性为 0.24，女性为 0.19——同时保持了端到端的保密性。
• 公平性审计的运行时间主要由基于 MPC 的推理决定，图像分类的总执行时间为 229.27 秒，主要源于安全推理的成本。
• 在公平性审计场景中，性能开销是可接受的，因为与实时推理应用相比，较长的运行时间是可以容忍的。
• 该库的性能随数据规模和模型复杂度线性扩展，与 MPC 协议的行为一致，并支持 2PC 和 3PC 部署模型。
• PrivFair 可扩展支持额外的公平性度量，如对待平等性和预测平等性，并支持多种模型类型，包括决策树、随机森林和神经网络。