[논문 리뷰] Perfectly Parallel Fairness Certification of Neural Networks

Caterina Urban, Maria Christakis외 2명|arXiv (Cornell University)|2019. 12. 05.

Adversarial Robustness in Machine Learning참고 문헌 46인용 수 6

한 줄 요약

이 논문은 표본 데이터 분류에 사용되는 피드포워드 신경망에서 인과적 공정성을 검증하기 위한 완전히 병렬적인 정적 분석 기법을 제시한다. 입력 공간을 분할하고 각 분할 영역에서 공정성을 검증하기 위해 정방향 및 역방향 정적 분석을 조합함으로써, 이 방법은 타당성 있고 정확하며 구성 가능한 검증을 제공한다. 성공한 경우 확실한 보장을 제공하고, 그렇지 않은 경우 정밀한 편향 특성 분석을 가능하게 하며, 이는 실제 데이터셋에서 자원 사용을 효율적으로 관리할 수 있도록 한다.

ABSTRACT

Recently, there is growing concern that machine-learning models, which currently assist or even automate decision making, reproduce, and in the worst case reinforce, bias of the training data. The development of tools and techniques for certifying fairness of these models or describing their biased behavior is, therefore, critical. In this paper, we propose a perfectly parallel static analysis for certifying causal fairness of feed-forward neural networks used for classification of tabular data. When certification succeeds, our approach provides definite guarantees, otherwise, it describes and quantifies the biased behavior. We design the analysis to be sound, in practice also exact, and configurable in terms of scalability and precision, thereby enabling pay-as-you-go certification. We implement our approach in an open-source tool and demonstrate its effectiveness on models trained with popular datasets.

연구 동기 및 목표

• 기본적인 기계학습 모델에서의 편향 문제에 대한 우려가 증가함에 따라, 특히 형사 사법 및 헬스케어와 같은 고위험 응용 분야에서의 공정성 문제를 해결하기 위해.
• 지역적 강건성에 국한되지 않고, 모든 입력에 대한 전역적 성질인 인과적 공정성에 대해 확장 가능하고 정밀한 검증 방법을 개발하기 위해.
• 공정성이 검증된 경우 확실한 보장을 제공하고, 그렇지 않은 경우 편향된 행동을 정밀하게 정량화함으로써 신뢰할 수 있는 배포를 가능하게 하기 위해.
• 분할 및 재시도 가능한 분석을 통해 확장성과 정밀도 사이의 유연한 트레이드오프를 허용함으로써 점진적이고 자원을 점진적으로 사용하는 검증을 지원하기 위해.

제안 방법

• 이 방법은 입력 제약 조건을 기반으로 신경망의 입력 공간을 독립적이고 관리 가능한 영역으로 분할하기 위해 정방향 정적 분석을 사용한다.
• 각 분할 영역에 대해 정확히 병렬적으로 역방향 정적 분석을 적용하여 선택된 민감한 특성에 대해 인과적 공정성을 검증한다.
• 이 방법은 타당하며, 실질적으로 정확하여 공정성 검증에서 잘못된 참 또는 잘못된 거짓이 발생하지 않는다.
• 사용자가 정의한 정밀도 또는 확장성 기준을 충족하지 못하는 분할 영역을 제외함으로써 구성 가능한 분석을 지원하며, 점진적 실행이 가능하다.
• 이 프레임워크는 전체 입력 공간 분석과 특정 입력 영역에 대한 타겟팅된 편향 질의(예: '남성과 비교해 히스패닉계 45세 이상의 개인이 성별에 대해 차별받는가?')를 모두 지원한다.
• 이 구현은 심볼릭 실행과 추상 도메인(예: DeepPoly)을 사용하여 ReLU 기반 신경망의 정밀하고 확장 가능한 분석을 수행한다.

실험 결과

연구 질문

• RQ1 표본 데이터를 위한 피드포워드 신경망에서 정적 분석을 사용하여 인과적 공정성에 대해 타당하고 정확한 검증을 달성할 수 있는가?
• RQ2 정밀도를 유지하면서도 대규모 입력 공간으로의 공정성 검증을 어떻게 확장할 수 있는가? 동시에 점진적 실행이 가능하게 하는가?
• RQ3 전체 입력 공간을 분석하지 않고도 특정 입력 하위 영역에 대한 타겟팅된 편향 질의를 지원할 수 있는가?
• RQ4 실제로 분석 정밀도와 확장성 사이의 트레이드오프가 성능과 커버리지에 어떤 영향을 미치는가?
• RQ5 여러 CPU에 걸쳐 이 방법을 효과적으로 병렬화하여 런타임 효율을 향상시킬 수 있는가?

주요 결과

• 고정밀도 설정을 사용할 경우, 일본 신용 심사 데이터셋에서 100%의 입력 분할 영역에 대해 공정성 검증에 성공했으며, 10개의 CPU를 사용해 20분 이내에 전체 커버리지를 달성했다.
• COMPAS 데이터셋에서는 10개의 CPU를 사용해 30분 이내에 99.98%의 공정성 커버리지를 달성했으며, 높은 정밀도와 정확도를 유지했다.
• 심볼릭 실행과 DeepPoly와 같은 추상 도메인의 사용은 ReLU 네트워크의 정밀한 분석을 가능하게 하였고, 잘못된 양성 결과의 수를 최소화했다.
• 이 프레임워크는 강력한 병렬 확장성을 보였으며, CPU 수가 증가할수록 분석 시간이 크게 감소하는 경향을 보였다. 특히 고정밀도 설정에서 두드러졌다.
• 사용자 정의된 자원 제약 환경에서 분석을 중단하고 재개할 수 있는 'pay-as-you-go' 설계 덕분에, 자원이 제한된 환경에서도 배포가 가능했다.
• 특히 고정밀도 설정에서 분석 시간이 구성 및 데이터셋 복잡도에 따라 15분에서 52시간까지 변동하는 등, 기준 기반 방법보다 커버리지와 속도 면에서 뛰어난 성능을 보였다.