[논문 리뷰] PrivFair: a Library for Privacy-Preserving Fairness Auditing

Sikha Pentyala, David Melanson외 2명|arXiv (Cornell University)|2022. 02. 08.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

PrivFair는 기밀 보장을 위한 기계학습 모델의 공정성 감사 기능을 제공하는 새로운 라이브러리로, 보안 다자간 계산(MPC)을 활용하여 모델 소유자와 감사자가 민감한 모델 파ameter나 감사 데이터를 폭로하지 않고도 공정성 메트릭(예: 인구통합성 및 동등한 기회)을 평가할 수 있도록 한다. 이 시스템은 2PC 및 3PC 위협 모델을 모두 지원하여 기밀성 확보와 함께 정확성과 확장성을 확보하며, 표형 및 이미지 데이터 모두에서 기능한다.

ABSTRACT

Machine learning (ML) has become prominent in applications that directly affect people's quality of life, including in healthcare, justice, and finance. ML models have been found to exhibit discrimination based on sensitive attributes such as gender, race, or disability. Assessing if an ML model is free of bias remains challenging to date, and by definition has to be done with sensitive user characteristics that are subject of anti-discrimination and data protection law. Existing libraries for fairness auditing of ML models offer no mechanism to protect the privacy of the audit data. We present PrivFair, a library for privacy-preserving fairness audits of ML models. Through the use of Secure Multiparty Computation (MPC), PrivFair protects the confidentiality of the model under audit and the sensitive data used for the audit, hence it supports scenarios in which a proprietary classifier owned by a company is audited using sensitive audit data from an external investigator. We demonstrate the use of PrivFair for group fairness auditing with tabular data or image data, without requiring the investigator to disclose their data to anyone in an unencrypted manner, or the model owner to reveal their model parameters to anyone in plaintext.

연구 동기 및 목표

• 모델 기밀성과 민감한 감사 데이터를 동시에 보호하는 공정성 감사 도구의 부족한 점을 보완하기 위해.
• 외부 당사자에게 모델 가중치나 감사 데이터를 폭로하지 않고도 기업 소유의 기계학습 모델의 공정성 평가를 가능하게 하기 위해.
• 의료, 금융, 형사사법과 같이 데이터 및 모델 기밀성이 법적·윤리적으로 필수적인 고위험 분야에서의 실제 공정성 감사 시나리오를 지원하기 위해.
• 기존의 공정성 메트릭과 통합되며 다양한 모델 아키텍처를 지원하는 실용적이고 확장 가능한 프레임워크를 제공하기 위해.

제안 방법

• PrivFair는 기밀 보장을 위해 모델 파ameter와 감사 데이터의 암호화된 공유를 기반으로 한 공동 계산을 가능하게 하는 보안 다자간 계산(MPC)을 사용한다. 이로써 어느 한 당사자도 입력을 평문으로 폭로하지 않는다.
• 시스템은 모델 소유자와 감사자가 직접 공정성 메트릭을 계산하는 2PC 모델 또는 암호화된 공유를 처리하는 신뢰할 수 없는 클라우드 서버가 계산을 수행하는 3PC 모델을 운영한다.
• 모든 계산은 유한 정수환 𝕫_q에서 수행되어 MPC 프로토콜과 수치적 안정성 간의 호환성을 확보한다.
• 라이브러리는 인구통합성, 동등한 기회, 동등한 오차, 부분군 정확도 등의 핵심 공정성 메트릭을 위한 MPC 프로토콜을 구현한다.
• 로지스틱 회귀 및 ConvNets와 같은 기존 MPC 기반 추론 프로토콜과 통합하여 표형 및 이미지 데이터 모두를 지원한다.
• 3PC 모드에서는 비동기 실행을 허용하여 감사자가 클라우드 서버에서 사전 공유된 암호화된 모델을 지속적인 상호작용 없이 쿼리할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 기밀 보장된 공정성 감사를 위해 민감한 모델 파ameter나 감사 데이터를 폭로하지 않고도 기업 소유의 기계학습 모델의 공정성 감사를 수행할 수 있는가?
• RQ2 보안 다자간 계산(MPC)은 실제 기계학습 배포 환경에서 기밀 보장된 공정성 평가에 효과적으로 적용될 수 있는가?
• RQ3 MPC를 공정성 감사에 사용할 경우 성능 오버헤드는 얼마나 되며, 이는 실용적이고 기밀성이 중요한 응용 분야에서 수용 가능한가?
• RQ4 동일한 MPC 인프라는 모델 추론과 공정성 메트릭 계산을 통합된 확장 가능한 프레임워크로 지원할 수 있는가?
• RQ5 시스템은 다양한 모델 아키텍처와 데이터 유형(이미지 및 표형 데이터 포함)에서 어떻게 확장되는가?

주요 결과

• PrivFair는 MPC를 활용하여 표형 및 이미지 데이터에 대한 기밀 보장된 공정성 감사를 성공적으로 수행하였으며, 모델 파ameter나 감사 데이터가 평문으로 폭로되지 않았다.
• 정확한 공정성 메트릭 계산이 이루어졌으며, 예를 들어 남성의 경우 인구통합성 지표가 0.24, 여성의 경우 0.19로 측정되었고, 종단 간 기밀성이 유지되었다.
• 공정성 감사의 런타임은 주로 MPC 기반 추론에 의해 결정되며, 이미지 분류의 경우 총 실행 시간이 229.27초로, 보안 추론 비용이 주요 원인이다.
• 공정성 감사의 맥락에서는 더 긴 런타임이 실시간 추론 응용 분야에 비해 수용 가능하므로, 성능 오버헤드는 정당화된다.
• 라이브러리는 데이터 크기와 모델 복잡성에 따라 선형적으로 확장되며, MPC 프로토콜의 특성과 일치하며, 2PC 및 3PC 배포 모델을 모두 지원한다.
• PrivFair는 치료 평등성 및 예측 평등성과 같은 추가 공정성 메트릭에 확장 가능하며, 의사결정 트리, 랜덤 포레스트 및 신경망을 포함한 다양한 모델 유형을 지원한다.