[논문 리뷰] Saving Face: Investigating the Ethical Concerns of Facial Recognition Auditing

Inioluwa Deborah Raji, Timnit Gebru외 4명|arXiv (Cornell University)|2020. 01. 03.

Ethics and Social Impacts of AI참고 문헌 23인용 수 60

한 줄 요약

이 논문은 CelebSET를 도입하여 교차적 얼굴 처리 벤치마크를 제시하고, 상용 FPT API를 다양한 작업에서 평가하며, 알고리즘 감사의 다섯 가지 윤리적 우려와 긴장을 논의하고, 감사가 한계가 있으며 더 넓은 윤리 평가의 일부가 되어야 한다고 주장한다.

ABSTRACT

Although essential to revealing biased performance, well intentioned attempts at algorithmic auditing can have effects that may harm the very populations these measures are meant to protect. This concern is even more salient while auditing biometric systems such as facial recognition, where the data is sensitive and the technology is often used in ethically questionable manners. We demonstrate a set of five ethical concerns in the particular case of auditing commercial facial processing technology, highlighting additional design considerations and ethical tensions the auditor needs to be aware of so as not exacerbate or complement the harms propagated by the audited system. We go further to provide tangible illustrations of these concerns, and conclude by reflecting on what these concerns mean for the role of the algorithmic audit and the fundamental product limitations they reveal.

연구 동기 및 목표

• 유명인 이미지에 기반한 교차적 얼굴 처리 벤치마크인 CelebSET을 개발한다.
• CelebSET을 사용하여 상용 얼굴 처리 API(Microsoft, Amazon, Clarifai)를 여러 작업에서 평가한다.
• 알고리즘 감사의 설계 및 사용에서의 윤리적 고려사항과 긴장을 식별하고 명확히 설명한다.
• 벤치마크 설계 선택이 공정성 분석 및 정책 함의에 어떤 영향을 미치는지 시연한다.

제안 방법

• DM, DF, LM, LF 하위그룹에 걸쳐 80명의 유명인을 사용하여 IMDB-WIKI에서 CelebSET을 구성한다.
• CelebSET을 사용하여 성별, 나이, 이름, 미소, 탐지 작업에 대한 API 성능을 평가한다.
• 탐지 정확도에 대해 IoU 0.50에서 AP50을 사용하고 나이 예측에는 8년의 오차 여유를 허용한다.
• 단일 하위그룹과 교차 하위그룹 간의 성능 차이를 분석한다.
• API에서 사용하는 유명인 데이터세트의 인구통계를 검토하여 표현 편향을 논의한다.
• 감사를 위한 관행의 일환으로 데이터 시트, 모델 카드, 투명한 문서화를 제안한다.

실험 결과

연구 질문

• RQ1 CelebSET에서 상용 얼굴 처리 API가 성별, 나이, 이름, 미소, 탐지 작업에서 어떤 성능을 보이나?
• RQ2 인종화된 하위그룹 및 성별 하위그룹을 포함한 교차적 그룹에서 나타나는 성능 격차의 패턴은 무엇인가?
• RQ3 얼굴 인식 기술의 알고리즘 감사를 수행하고 사용하는 데서 어떤 윤리적 긴장이 발생하는가?
• RQ4 감사 설계가 프라이버시, 표현, 투명성을 어떻게 고려해야 하며 소외 계층에 해를 주지 않도록 하려면 어떻게 해야 하는가?

주요 결과

• 모든 API는 성별 분류에서 가장 높은 정확도를 보이고, 탐지는 Clarifai가 우수하며, 나이 분류는 모든 API에서 가장 약한 작업이다.
• 단일 하위그룹 전체에서 어두운 피부 색과 여성 그룹이 대부분의 작업에서 일반적으로 성능이 낮고, 성별 분류에서 Clarifai의 현저한 격차가 나타난다.
• 교차 하위그룹 분석은 어두운 피부의 여성 하위그룹이 종종 가장 낮은 정확도를 보이고, 밝은 피부의 남성 하위그룹이 일반적으로 가장 높은 성능을 보이나 작업에 따라 예외가 있음을 확인한다.
• CelebSET은 API가 사용하는 기본 유명인 데이터셋의 성능 격차와 편향을 모두 드러내며 표현성 및 데이터셋 비대칭 문제를 강조한다.
• 본 논문은 외부 감사가 감사 대상 작업의 개선만을 유도하고 더 넓은 제품 설계 및 배포 프로세스를 소홀히 할 수 있음을 강조하며, 포괄적이고 절차 지향적인 감사를 촉구한다(절차적 공정성).
• 감사는 배포의 유일한 검증으로 간주되어서는 안 되며, CelebSET은 과장된 발전 주장을 피하고 더 넓은 윤리적 평가를 촉진하기 위한 낮은 기준으로 보아야 한다.