[논문 리뷰] Fairness Testing of Deep Image Classification with Adequacy Metrics

Peixin Zhang, Jingyi Wang외 2명|arXiv (Cornell University)|2021. 11. 17.

Adversarial Robustness in Machine Learning참고 문헌 51인용 수 7

한 줄 요약

이 논문은 깊이 있는 이미지 분류 모델을 위한 체계적인 공정성 테스팅 프레임워크인 DeepFAIT을 제안한다. 이 프레임워크는 유의성 검정을 통해 공정성과 관련된 뉴런을 식별하고, 다섯 가지 다중 분해능 지표를 사용하여 공정성 테스팅의 적정성을 평가하며, 효율적인 공정성 향상을 위한 최적의 테스트 케이스를 선별한다. VGGFace와 FairFace에서 평가된 DeepFAIT는 이전 방법들보다 공정성에 민감한 뉴런을 더 잘 탐지하고, 낮은 비용으로 모델의 공정성을 향상시키는 데 성공한다.

ABSTRACT

As deep image classification applications, e.g., face recognition, become increasingly prevalent in our daily lives, their fairness issues raise more and more concern. It is thus crucial to comprehensively test the fairness of these applications before deployment. Existing fairness testing methods suffer from the following limitations: 1) applicability, i.e., they are only applicable for structured data or text without handling the high-dimensional and abstract domain sampling in the semantic level for image classification applications; 2) functionality, i.e., they generate unfair samples without providing testing criterion to characterize the model's fairness adequacy. To fill the gap, we propose DeepFAIT, a systematic fairness testing framework specifically designed for deep image classification applications. DeepFAIT consists of several important components enabling effective fairness testing of deep image classification applications: 1) a neuron selection strategy to identify the fairness-related neurons; 2) a set of multi-granularity adequacy metrics to evaluate the model's fairness; 3) a test selection algorithm for fixing the fairness issues efficiently. We have conducted experiments on widely adopted large-scale face recognition applications, i.e., VGGFace and FairFace. The experimental results confirm that our approach can effectively identify the fairness-related neurons, characterize the model's fairness, and select the most valuable test cases to mitigate the model's fairness issues.

연구 동기 및 목표

• 특히 고차원적이고 의미론적인 이미지 영역에서 깊이 있는 이미지 분류 모델에 대한 체계적인 공정성 테스팅의 부족을 해결한다.
• 구조화된 데이터나 텍스트 데이터에만 초점을 맞추는 기존의 공정성 테스팅 방법의 한계를 극복하며, 테스팅의 적정성을 측정할 수 있는 기준이 부족한 점을 보완한다.
• 깊이 신경망의 이미지 응용 분야에서 공정성과 관련된 뉴런을 효과적으로 식별할 수 있는 프레임워크를 개발한다.
• 단순한 샘플 생성을 넘어서 공정성 테스팅 과정의 완전성과 효과성을 정량적으로 평가할 수 있도록 다중 분해능 적합성 지표를 도입한다.
• 최소한의 자원 비용으로 공정성 문제를 수정하기 위해 가장 가치 있는 테스트 케이스를 우선순위 정렬할 수 있는 효율적인 테스트 선택 알고리즘을 설계한다.

제안 방법

• 감정(예: 인종, 성별) 간 도메인 전환을 수행하면서도 정체성과 조명 특징을 유지하는 Generative Adversarial Networks(GANs)를 활용한다.
• 변환된 이미지 쌍 간의 뉴런 활성도 차이에 대해 유의성 검정을 적용하여 네트워크 내 공정성과 관련된 뉴런을 식별한다.
• 식별된 공정성과 관련된 뉴런을 바탕으로 두 가지 레이어 수준 지표와 세 가지 뉴런 수준 지표를 포함한 다섯 가지 다중 분해능 적합성 지표를 설계하여 테스팅 효과성을 평가한다.
• 다양한 불공정 샘플을 생성하기 위해 세 가지 테스트 케이스 생성 전략을 구현한다: 무작위 생성(RG), 기울기 기반 생성(GG), 가우시안 노이즈 주입(GI).
• 공정성 향상에 기여하는 정도에 따라 테스트 케이스를 순위 매기는 알고리즘을 개발하여 재학습 비용을 최소화하면서도 효율적인 모델 수리가 가능하도록 한다.

실험 결과

연구 질문

• RQ1 고차원적이고 의미론적인 이미지 공간에서 깊이 있는 이미지 분류 모델의 공정성과 관련된 뉴런을 어떻게 효과적으로 식별할 수 있는가?
• RQ2 딥러닝 모델의 공정성 테스팅 과정의 완전성과 효과성을 정량적으로 평가하기 위해 어떤 다중 분해능 적합성 지표를 사용할 수 있는가?
• RQ3 이미지 분류의 공정성 테스팅을 위해 다양한 불공정 샘플을 효과적으로 생성하기 위해 테스트 케이스 생성을 어떻게 향상시킬 수 있는가?
• RQ4 테스트 케이스 선택 전략은 공정성 수리 비용을 얼마나 줄일 수 있으며, 동시에 모델의 공정성을 유지하거나 향상시킬 수 있는가?

주요 결과

• DeepFAIT는 GAN으로 생성된 이미지 쌍 간의 뉴런 활성도 차이에 대한 유의성 검정을 통해 깊이 있는 이미지 분류 모델 내 공정성과 관련된 뉴런을 성공적으로 식별한다.
• 제안된 다섯 가지 적합성 지표(레이어 수준 및 뉴런 수준)는 공정성 테스팅의 적정성을 효과적으로 특성화하며, 공정성 테스팅의 완전성을 평가하기 위한 정량적 근거를 제공한다.
• VGGFace 및 FairFace 모델에서 DeepImportance에 비해 DeepFAIT는 공정성에 민감한 뉴런을 더 뛰어난 능력으로 탐지한다.
• 테스트 선택 알고리즘이 공정성 수리에 필요한 테스트 케이스의 수를 크게 줄였으며, 동시에 공정성 결과를 유지하거나 향상시켰다.
• VGGFace 및 FairFace 데이터셋에서의 실증적 평가를 통해 DeepFAIT가 불공정 샘플을 효과적으로 탐지하고, 모델 편향을 효율적으로 완화시킬 수 있음을 확인했다.