[논문 리뷰] The Price of Fair PCA: One Extra dimension

Samira Samadi, Uthaipon Tantipongpipat외 3명|arXiv (Cornell University)|2018. 10. 31.

Statistical Methods and Inference인용 수 60

한 줄 요약

이 논문은 차원 감소를 수행하면서도 두 집단(예: 남성과 여성 또는 다른 교육 수준) 간의 재구성 오차가 유사하도록 보장하는 다항식 시간 알고리즘인 Fair PCA를 소개한다. 표준 PCA는 한 집단을 다른 집단보다 유리하게 만들 수 있으며, Fair PCA는 오직 한 개의 추가 차원만으로도 거의 최적의 공정성을 달성하여 실제 데이터셋에서 소수집단의 복원 정확도를 크게 향상시킨다.

ABSTRACT

We investigate whether the standard dimensionality reduction technique of PCA inadvertently produces data representations with different fidelity for two different populations. We show on several real-world data sets, PCA has higher reconstruction error on population A than on B (for example, women versus men or lower- versus higher-educated individuals). This can happen even when the data set has a similar number of samples from A and B. This motivates our study of dimensionality reduction techniques which maintain similar fidelity for A and B. We define the notion of Fair PCA and give a polynomial-time algorithm for finding a low dimensional representation of the data which is nearly-optimal with respect to this measure. Finally, we show on real-world data sets that our algorithm can be used to efficiently generate a fair low dimensional representation of the data.

연구 동기 및 목표

• 표준 PCA가 한 인구 집단에 대해 다른 집단보다 더 높은 재구성 오차를 유발하는지 여부를 조사하는 것.
• 차원 감소에서 공정성의 형식적 개념인 Fair PCA를 정의하여 다양한 집단 간 재구성 정확도가 균형을 이루도록 보장하는 것.
• 거의 최적의 공정성을 달성하는 저차원 표현을 찾는 다항식 시간 알고리즘을 개발하는 것.
• 실제 데이터셋에서 Fair PCA가 집단 간 재구성 오차 균형을 어떻게 향상시키는지 실증적으로 검증하는 것.

제안 방법

• 두 집단 간 최대 재구성 오차를 최소화하는 공정성 인식 기반 PCA 변형인 Fair PCA를 제안하는 것.
• 재구성 오차에 대한 공정성 제약 조건을 포함한 볼록 최적화 문제로 Fair PCA를 수식화하는 것.
• 효율적인 최적화 문제 해결을 위해 공정성 임계값에 대한 이분법 검색을 사용하는 것.
• 표준 PCA 해에 대한 일차원 증강을 도입하여 최소한의 차원 비용으로 공정성을 달성하는 것.
• 볼록 최적화 기법을 활용하여 알고리즘이 다항식 시간 내에 실행되도록 보장하는 것.
• 실제 데이터셋에 방법을 적용하여 공정성과 재구성 성능을 평가하는 것.

실험 결과

연구 질문

• RQ1 표본 수가 균형을 이루는 상황에서도 표준 PCA가 한 인구 집단에 대해 다른 집단보다 유의미하게 더 높은 재구성 오차를 유발하는가?
• RQ2 두 집단 간 재구성 정확도가 유사하도록 보장할 수 있는 차원 감소 방법을 설계할 수 있는가?
• RQ3 공정한 차원 감소를 달성하기 위해 필요한 최소 추가 차원은 얼마인가?
• RQ4 제안된 Fair PCA 알고리즘이 표준 PCA에 비해 공정성과 재구성 오차 측면에서 어떻게 다른가?

주요 결과

• 표본 수가 균형을 이루는 상황에서도 표준 PCA는 한 인구 집단(예: 여성 또는 낮은 교육 수준의 개인)에 대해 다른 집단보다 더 높은 재구성 오차를 보인다.
• Fair PCA 알고리즘은 표준 PCA에 비해 오직 한 개의 추가 차원만으로도 거의 최적의 공정성을 달성한다.
• 실제 데이터셋에서 Fair PCA는 집단 간 재구성 오차 격차를 크게 감소시킨다.
• 알고리즘이 다항식 시간 내에 실행되어 실용적 사용에 적합한 확장성을 확보한다.