[논문 리뷰] Bias Amplification in Artificial Intelligence Systems

Kirsten Lloyd|arXiv (Cornell University)|2018. 09. 20.

Ethics and Social Impacts of AI참고 문헌 1인용 수 43

한 줄 요약

본 논문은 AI 시스템이 학습 데이터에 존재하는 편향을 강화할 수 있으며 이 위험을 완화하기 위해 정책 지향적 데이터 표준과 포용적 관행의 필요성을 강조한다.

ABSTRACT

As Artificial Intelligence (AI) technologies proliferate, concern has centered around the long-term dangers of job loss or threats of machines causing harm to humans. All of this concern, however, detracts from the more pertinent and already existing threats posed by AI today: its ability to amplify bias found in training datasets, and swiftly impact marginalized populations at scale. Government and public sector institutions have a responsibility to citizens to establish a dialogue with technology developers and release thoughtful policy around data standards to ensure diverse representation in datasets to prevent bias amplification and ensure that AI systems are built with inclusion in mind.

연구 동기 및 목표

• AI가 학습 데이터의 편향을 증폭시켜 소외된 집단에 대규모로 영향을 미칠 수 있다는 위험을 강조한다.
• 편향 증폭에 대응하기 위해 정부와 공공 부문이 기술자들과 협력할 것을 옹호한다.
• 데이터 표준에 대한 신중한 정책 개발을 권고하여 데이터 세트의 다양한 표현을 보장한다.
• 편향 증폭을 방지하기 위한 포함 중심의 AI 개발 관행을 촉진한다.

제안 방법

• 편향 증폭 문제에 기초한 정책 지향적 분석.
• 정부 기관과 기술 개발자 간의 대화 촉진을 옹호한다.
• 예방 조치로 데이터 표준과 다양한 표현을 권고한다.

실험 결과

연구 질문

• RQ1 AI 시스템은 학습 데이터세트에서 발견되는 편향을 어떻게 증폭시키는가?
• RQ2 편향 증폭을 예방하는 데 효과적인 정책 조치와 데이터 표준은 무엇인가?
• RQ3 공공 부문 참여가 AI 시스템의 포용성을 어떻게 촉진할 수 있는가?

주요 결과

• AI 기술은 기존의 편향을 증폭시켜 소외된 인구에 대규모로 영향을 미칠 수 있다.
• 이 문제에 대해 정부 및 공공 기관이 기술 개발자와 협력할 책임이 있다.
• 학습 데이터 세트에서 다양한 표현을 보장하기 위한 데이터 표준에 대한 정책 지침이 필요하다.
• 편향 증폭을 완화하기 위해 포용성 중심의 관행을 AI 시스템 설계에 통합해야 한다.