[논문 리뷰] Towards Measuring Fairness in AI: the Casual Conversations Dataset

Caner Hazırbaş, Joanna Bitton외 4명|arXiv (Cornell University)|2021. 04. 06.

Building Energy and Comfort Optimization인용 수 4

한 줄 요약

이 논문은 인공지능의 공정성 평가를 위해 자가 보고한 연령, 성별, 피트지커 타입, 조명 조건을 포함한 3,011명의 참가자로부터 수집된 다양한 인간 레이블이 부여된 영상 데이터셋인 'Casual Conversations Dataset'을 소개한다. 이 데이터셋은 어두운 피부 톤과 저조도 조건에서 최상위 딥패이크 검출기 및 최신 연령/성별 모델의 성능 저하를 드러내며, 현재의 인공지능 시스템에 심각한 편향이 존재함을 시사한다.

ABSTRACT

This paper introduces a novel dataset to help researchers evaluate their computer vision and audio models for accuracy across a diverse set of age, genders, apparent skin tones and ambient lighting conditions. Our dataset is composed of 3,011 subjects and contains over 45,000 videos, with an average of 15 videos per person. The videos were recorded in multiple U.S. states with a diverse set of adults in various age, gender and apparent skin tone groups. A key feature is that each subject agreed to participate for their likenesses to be used. Additionally, our age and gender annotations are provided by the subjects themselves. A group of trained annotators labeled the subjects' apparent skin tone using the Fitzpatrick skin type scale. Moreover, annotations for videos recorded in low ambient lighting are also provided. As an application to measure robustness of predictions across certain attributes, we provide a comprehensive study on the top five winners of the DeepFake Detection Challenge (DFDC). Experimental evaluation shows that the winning models are less performant on some specific groups of people, such as subjects with darker skin tones and thus may not generalize to all people. In addition, we also evaluate the state-of-the-art apparent age and gender classification methods. Our experiments provides a thorough analysis on these models in terms of fair treatment of people from various backgrounds.

연구 동기 및 목표

• 다양하고 대표성 있는 데이터셋을 구축하여 인공지능 모델의 알고리즘 편향 문제를 해결하고, 인구 통계적 및 환경적 특성에 따른 공정성 평가를 가능하게 한다.
• 피부 톤과 주변 조명과 같은 다양한 조건에서 컴퓨터 비전 및 오디오 모델의 강건성 측정을 위한 벤치마크를 제공한다.
• 딥패이크 검출 챌린지(DFDC)에서 최고 성능을 보인 모델들이 다양한 인구 집단에 걸쳐 실제 세계에서 얼마나 잘 일반화되는지 평가한다.
• 자기 보고한 연령과 성별 정보를 포함한 데이터셋을 통해 보다 포괄적이고 책임감 있는 인공지능 개발을 가능하게 한다. 이는 잠재적인 레이블링 편향을 줄이기 위함이다.

제안 방법

• 3,011명의 참가자가 미국 전역의 다양한 지역에서 온 것으로, 각 참가자는 약 15개의 사적인 대화 영상을 기여했다.
• 참가자들이 자가 보고한 연령과 성별을 통해 인구 통계적 특성에 대한 잠재적 레이블링 편향을 줄였다.
• 훈련된 레이블러를 통해 피부 톤을 피트지커 척도로 표기하여 6개의 피부 유형 카테고리로의 분석을 가능하게 하였다.
• 주변 조명 조건(밝음 대 비침)을 레이블링하여 저조도 시나리오에서의 평가를 가능하게 하였다.
• 얼굴 검출은 DLIB를 사용하였으며, 각 영상당 100개의 샘플링된 얼굴 코너스터트를 기반으로 예측 결과를 집계하여 강건성을 향상시켰다.
• 정밀도, 로그 손실, ROC 곡선 분석을 통해 공정성 카테고리별로 딥패이크 검출기 및 최신 연령/성별 분류 모델의 성능을 평가하였다.

실험 결과

연구 질문

• RQ1 DFDC에서 최고 성능을 보인 딥패이크 검출 모델은 다양한 피부 톤과 조명 조건에서 어떻게 성능을 보이는가?
• RQ2 최신의 외관 연령 및 성별 분류 모델은 어느 정도 더 밝은 피부 톤이나 특정 연령/성별 집단에 대해 편향을 보이는가?
• RQ3 제3자 레이블링 대비 자기 보고한 연령 및 성별 레이블링이 인구 통계적 특성 데이터셋의 편향을 줄일 수 있는가?
• RQ4 주변 조명은 얼굴 특성 인식 및 딥패이크 검출 모델의 성능에 어떤 영향을 미치는가?
• RQ5 피트지커 피부 유형 간 모델 성능의 공정성 격차는 무엇이며, 특히 어두운 피부 톤(유형 V 및 VI)에서 어떻게 나타나는가?

주요 결과

• DFDC에서 우승한 모델인 Selim Seferbekov [8]를 포함한 최상위 DFDC 모델들은 어두운 피부 톤(유형 VI)에서 유의미하게 낮은 성능을 보였으며, 더 밝은 피부 톤 대비 정밀도가 20퍼센트 이상 감소하였다.
• 외관 성별 분류 모델은 유형 VI 피부 톤에서 평균 정밀도가 53.78%에 그쳤고, 유형 I에서는 83.33%를 기록하여 심각한 공정성 격차를 보였다.
• 최고 성능을 보인 연령 및 성별 모델인 LightFace [35] 역시 어두운 피부 톤에서 20퍼센트 이상의 성능 저하를 보였으며, 최신 기술에서도 여전히 편향이 존재함을 입증하였다.
• 모든 평가된 모델이 주변 조명이 어두운 환경에서 정확도가 떨어졌으며, 어두운 조건에서 정밀도가 최대 10퍼센트 감소하였다.
• The Medics [12] 및 Eighteen Years Old [11] 같은 모델들은 연령, 성별, 조명 조건에 따라 성능이 일관되지 않으며, 특정 카테고리에 대한 균형이 뚜렷하지 않았다.
• 이 데이터셋은 편향된 데이터셋으로 훈련된 모델이 어두운 피부를 가진 개인과 같은 소수 집단에 대해 일반화되지 못함을 드러냈다.