[논문 리뷰] A Taxonomy of the Biases of the Images created by Generative Artificial Intelligence

Adriana Fernández de Caleya Vázquez, Eduardo C. Garrido‐Merchán|arXiv (Cornell University)|2024. 05. 02.

Impact of AI and Big Data on Business and Society인용 수 7

한 줄 요약

본 논문은 AI가 생성한 이미지에서의 편향에 대한 분류 체계를 제시하고, 이 편향의 사회적 영향 분석을 수행하며, 완화 전략 및 규제 고려사항에 대해 논의한다.

ABSTRACT

Generative artificial intelligence models show an amazing performance creating unique content automatically just by being given a prompt by the user, which is revolutionizing several fields such as marketing and design. Not only are there models whose generated output belongs to the text format but we also find models that are able to automatically generate high quality genuine images and videos given a prompt. Although the performance in image creation seems impressive, it is necessary to slowly assess the content that these models are generating, as the users are uploading massively this material on the internet. Critically, it is important to remark that generative AI are statistical models whose parameter values are estimated given algorithms that maximize the likelihood of the parameters given an image dataset. Consequently, if the image dataset is biased towards certain values for vulnerable variables such as gender or skin color, we might find that the generated content of these models can be harmful for certain groups of people. By generating this content and being uploaded into the internet by users, these biases are perpetuating harmful stereotypes for vulnerable groups, polarizing social vision about, for example, what beauty or disability is and means. In this work, we analyze in detail how the generated content by these models can be strongly biased with respect to a plethora of variables, which we organize into a new image generative AI taxonomy. We also discuss the social, political and economical implications of these biases and possible ways to mitigate them.

연구 동기 및 목표

• AI 모델이 생성한 이미지에 존재하는 편향을 식별하고 분류한다.
• 훈련 데이터, 모델, 그리고 사용자 해석이 편향에 어떻게 기여하는지 설명한다.
• 이미지 생성에서 이러한 편향의 사회적, 정치적, 경제적 함의를 논의한다.
• 완화 전략을 제시하고 정책 및 향후 연구의 격차를 규명한다.

제안 방법

• 문화적, 사회경제적, 생물학적, 인구통계학적 차원에 걸친 이미지 생성 편향의 구조적 분류 체계를 개발한다.
• 편향이 훈련 데이터, 모델 매개변수, 출력 해석에서 어떻게 기원하는지 설명한다.
• 확률적 프레이밍 p(Y|X,θ)를 사용한 편향 발생의 기술적 직관을 설명하고, 완화로서 정규화/데이터 증강에 대해 논의한다.
• 관련 연구 및 규제 고려사항을 검토하여 윤리 및 정책 논의 내에서 분류 체계를 위치시킨다.
• 이미지 생성을 위한 편향 감소를 위한 실용적 체크리스트를 제공한다.

실험 결과

연구 질문

• RQ1 AI가 생성한 이미지에서 나타나는 범주와 구체적인 편향은 무엇인가?
• RQ2 데이터셋, 모델 아키텍처, 프롬프트가 이러한 편향에 어떻게 기여하는가?
• RQ3 편향된 AI 생성 이미지의 사회적, 경제적, 정치적 함의는 무엇이며 어떻게 완화할 수 있는가?
• RQ4 개발자와 정책 입안자가 이미지 생성의 편향을 줄이고 규제하기 위해 취할 수 있는 실질적 조치는 무엇인가?

주요 결과

• 포괄적인 분류 체계는 AI가 생성한 이미지에서 문화적, 사회경제적, 생물학적, 인구통계학적 편향을 식별한다.
• 편향은 훈련 데이터 분포, 모델 최적화, 프롬프트 해석에서 기원하며 고정관념을 강화할 수 있다.
• 완화는 데이터 증강, 학습 시 정규화, 편향 인식 평가 시험 배치를 포함할 수 있다.
• 투명성, 책임성, 완화의 효과성에 대한 논의를 다루는 윤리, 정책, 규제에 대한 광범위한 논의가 필수적이다.
• 본 연구는 편향 완화를 성별과 인종을 넘어서 이미지 생성의 더 넓은 편향들로 확장하는 것을 강조한다.