[논문 리뷰] AI-generated faces influence gender stereotypes and racial homogenization

Nouar AlDahoul, Talal Rahwan외 1명|arXiv (Cornell University)|2024. 02. 01.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 논문은 안정된 확산 XL(SDXL)에서 인종 및 성별 고정관념을 감소시키기 위한 두 가지 새로운 탈편향 방법인 SDXL-Inc와 SDXL-Div를 제안한다. 최신 기술의 얼굴 분류기로, 저자들은 6개의 인종, 2개의 성별, 5개의 연령 그룹, 32개의 직업, 8개의 특성에 걸쳐 편향을 정량화하였으며, 이는 이전 방법들과 비교해 대표성의 공정성과 얼굴의 다양성이 크게 향상되었음을 보여준다. 결과는 공개적으로 사용 가능하도록 제공된다.

ABSTRACT

Text-to-image generative AI models such as Stable Diffusion are used daily by millions worldwide. However, the extent to which these models exhibit racial and gender stereotypes is not yet fully understood. Here, we document significant biases in Stable Diffusion across six races, two genders, 32 professions, and eight attributes. Additionally, we examine the degree to which Stable Diffusion depicts individuals of the same race as being similar to one another. This analysis reveals significant racial homogenization, e.g., depicting nearly all Middle Eastern men as bearded, brown-skinned, and wearing traditional attire. We then propose debiasing solutions that allow users to specify the desired distributions of race and gender when generating images while minimizing racial homogenization. Finally, using a preregistered survey experiment, we find evidence that being presented with inclusive AI-generated faces reduces people's racial and gender biases, while being presented with non-inclusive ones increases such biases, regardless of whether the images are labeled as AI-generated. Taken together, our findings emphasize the need to address biases and stereotypes in text-to-image models.

연구 동기 및 목표

• 다양한 인구 통계적 범주에서 안정된 확산 XL이 생성한 얼굴에서 인종 및 성별 고정관념을 정량화하는 것.
• 최신 기술 수준의 방법보다 뛰어난 공정한 대표성을 촉진하는 새로운 탈편향 솔루션을 개발하고 평가하는 것.
• 인공지능에 의해 생성된 이미지에서 인종 및 성별 그룹 간 얼굴의 동질화 정도를 분석하는 것.
• 공개된 소스로 배포 가능한 솔루션을 제안하여 텍스트 기반 이미지 생성의 다양성을 향상시키는 것.
• 프롬프트 기반 탈편향의 한계, 즉 언어적 모호성과 투명성 부족을 해결하기 위해 자동화된 GPT-4 보강 프롬프트 조절을 통해 접근하는 것.

제안 방법

• 얼굴 검출을 위해 MTCNN를 사용하고, VGGFace ResNet-50 CNN을 통해 얼굴 임베딩을 추출한 후, RBF 커널을 사용한 SVM으로 인종, 성별, 연령 예측을 수행하는 3단계 파이프라인을 개발하였다.
• 훈련된 분류기는 최신 기술 수준의 성능을 달성했으며, 이는 안정된 확산 XL 출력물에서 6개의 인종, 2개의 성별, 5개의 연령 그룹, 32개의 직업, 8개의 특성에 걸쳐 편향을 정량화하는 데 사용되었다.
• SDXL-Inc는 이미지 및 텍스트 특성 간의 일치를 향상시키기 위해 학습 가능한 프롬프트와 CLIP 임베딩을 사용해 안정된 확산 XL을 미세조정함으로써 다양한 인구 집단 간 균형 잡힌 생성을 가능하게 하였다.
• SDXL-Div는 프롬프트에 명시되지 않은 경우 무작위로 인종 및 성별 특성을 주입하여 얼굴의 다양성을 증가시키기 위해 개발되었으며, GPT-4를 활용해 프롬프트 내용을 감지하고 조절하였다.
• 사용자 프롬프트를 분석하고 누락된 인구 통계적 특성(인종, 성별)을 주입하기 위해 GPT-4를 활용한 루프 내 시스템을 구현하였다.
• 저자들의 분류기를 사용해 Flickr-Faces-HQ 데이터셋에서 정제된 데이터를 재훈련하여 ITI-GEN 모델을 재학습시켜 훈련 과정에서 성별 및 인종 대표성이 균형을 이루도록 하였다.

실험 결과

연구 질문

• RQ1 안정된 확산 XL이 생성한 얼굴이 다양한 인구 통계적 범주에서 얼마나 강한 인종 및 성별 고정관념을 보이는가?
• RQ2 분류기 유도 프롬프팅과 GPT-4를 활용한 루프 내 프롬프트 조절이 텍스트 기반 이미지 생성에서 대표성 편향을 줄이는 데 얼마나 효과적인가?
• RQ3 SDXL-Inc와 SDXL-Div와 같은 탈편향 방법이 기존 최신 기술 수준의 방법보다 공정한 얼굴 대표성을 촉진하는 데 뛰어나게 성능을 발휘할 수 있는가?
• RQ4 인공지능에 의해 생성된 얼굴이 인종 및 성별 그룹 내에서 얼마나 동질화되어 있으며, 이를 어떻게 완화할 수 있는가?
• RQ5 대규모 언어 모델을 통한 자동 프롬프트 주입 통합이 생성된 이미지의 공정성과 다양성에 어떤 영향을 미치는가?

주요 결과

• 제안된 얼굴 분류기는 인종, 성별, 연령 예측에서 최신 기술 수준의 성능를 달성하여 안정된 확산 XL 출력물의 편향을 정확히 정량화할 수 있었다.
• 안정된 확산 XL은 강한 고정관념을 보였으며, 예를 들어 대부분의 중동 남성은 어두운 피부, 수염, 전통적 헤드웨어를 착용한 채로 묘사되었다.
• SDXL-Inc와 SDXL-Div는 모든 6개의 인종과 2개의 성별에서 기존 탈편향 방법보다 균형 잡힌 대표성을 크게 향상시켰다.
• GPT-4를 활용한 루프 내 시스템은 프롬프트에 누락된 인구 통계적 특성을 성공적으로 주입하여 수동적인 프롬프트 설계 없이도 공정성을 향상시켰다.
• 저자들의 분류기를 사용해 ITI-GEN을 재훈련한 결과, 라틴계를 제외한 모든 인종에서 균형 잡힌 인종 대표성이 구현되었으며, 라틴계는 백인 및 중동계 그룹과 얼굴 유사도가 높아서 영향을 받았다.
• 본 연구의 탈편향 솔루션과 모든 훈련 데이터는 GitHub 레포지토리에서 공개되어 재현 가능성과 커뮤니티의 도입을 가능하게 하였다.