[논문 리뷰] Fairness And Bias in Artificial Intelligence: A Brief Survey of Sources, Impacts, And Mitigation Strategies

Emilio Ferrara|arXiv (Cornell University)|2023. 04. 16.

Ethics and Social Impacts of AI참고 문헌 51인용 수 74

한 줄 요약

이 논문은 AI에서 공정성 및 편향성의 원천, 사회적 영향 및 완화 전략을 조사하며, 생성형 AI 편향에 대한 강조와 학제간 접근의 필요성을 제시한다.

ABSTRACT

The significant advancements in applying Artificial Intelligence (AI) to healthcare decision-making, medical diagnosis, and other domains have simultaneously raised concerns about the fairness and bias of AI systems. This is particularly critical in areas like healthcare, employment, criminal justice, credit scoring, and increasingly, in generative AI models (GenAI) that produce synthetic media. Such systems can lead to unfair outcomes and perpetuate existing inequalities, including generative biases that affect the representation of individuals in synthetic data. This survey paper offers a succinct, comprehensive overview of fairness and bias in AI, addressing their sources, impacts, and mitigation strategies. We review sources of bias, such as data, algorithm, and human decision biases - highlighting the emergent issue of generative AI bias where models may reproduce and amplify societal stereotypes. We assess the societal impact of biased AI systems, focusing on the perpetuation of inequalities and the reinforcement of harmful stereotypes, especially as generative AI becomes more prevalent in creating content that influences public perception. We explore various proposed mitigation strategies, discussing the ethical considerations of their implementation and emphasizing the need for interdisciplinary collaboration to ensure effectiveness. Through a systematic literature review spanning multiple academic disciplines, we present definitions of AI bias and its different types, including a detailed look at generative AI bias. We discuss the negative impacts of AI bias on individuals and society and provide an overview of current approaches to mitigate AI bias, including data pre-processing, model selection, and post-processing. We emphasize the unique challenges presented by generative AI models and the importance of strategies specifically tailored to address these.

연구 동기 및 목표

• 의료, 고용, 형사 사법, 신용, GenAI를 포함한 AI 응용 전반에 걸친 공정성 문제 연구를 촉진한다.
• 데이터, 알고리즘, 인간 의사결정 등 편향의 원천을 특징짓고 AI 편향성과 생성형 AI 편향을 정의한다.
• 편향된 AI의 사회적 영향과 고정관념의 강화 현상을 탐구한다.
• 데이터 전처리, 모델 선택, 후처리 등 완화 전략과 윤리적 고려사항을 검토한다.

제안 방법

• 다양한 학문 분야에 걸친 체계적 문헌 고찰을 수행한다.
• 생성형 AI 편향을 포함한 AI 편향의 정의와 유형을 제시한다.
• 완화 전략과 그 윤리적 함의를 논의한다.
• 효과성을 높이기 위한 학제간 협력의 필요성과 도전을 강조한다.

실험 결과

연구 질문

• RQ1 AI 시스템의 주요 편향 원천은 무엇인가(데이터, 알고리즘, 인간 의사결정)?
• RQ2 편향된 AI의 사회적 영향은 무엇이며 특히 생성형 AI와 함께 어떤가?
• RQ3 AI 편향에 대한 완화 전략은 무엇이며, 그것들이 수반하는 윤리적 고려사항은 무엇인가?
• RQ4 AI의 공정성과 편향 문제를 다루기 위해 학제간 협력은 어떻게 구성되어야 하는가?

주요 결과

• 편향된 AI는 데이터, 알고리즘적 요인, 인간 의사결정 과정에서 비롯된다.
• 생성형 AI 편향은 사회적 고정관념을 재생산하고 확대할 수 있는 새로운 이슈이다.
• 편향된 AI는 다양한 영역에서 불평등을 지속시키고 해로운 고정관념을 강화할 수 있다.
• 완화 방법에는 데이터 전처리, 모델 선택, 후처리 등이 있으며 각각 윤리적 고려가 필요하다.
• 생성형 AI는 맞춤형 전략이 필요한 고유한 도전 과제를 제시한다.