[논문 리뷰] ViBE: A Tool for Measuring and Mitigating Bias in Image Datasets

Angelina Wang, Arvind Narayanan외 1명|arXiv (Cornell University)|2020. 04. 16.

Generative Adversarial Networks and Image Synthesis참고 문헌 77인용 수 4

한 줄 요약

ViBE (REVISE)는 객체 기반, 인물 기반, 지리 기반 세 가지 차원에서 이미지 데이터셋의 편향을 사전에 탐지하고 완화하기 위한 도구입니다. 시각적 데이터를 분석하여 객체 표현, 인간 묘사, 지리적 다양성의 불균형을 파악하고, 모델 배포 이전에 편향을 줄이기 위한 실행 가능한 완화 전략을 제안합니다.

ABSTRACT

Machine learning models are known to perpetuate and even amplify the biases present in the data. However, these data biases frequently do not become apparent until after the models are deployed. Our work tackles this issue and enables the preemptive analysis of large-scale datasets. REVISE (REvealing VIsual biaSEs) is a tool that assists in the investigation of a visual dataset, surfacing potential biases along three dimensions: (1) object-based, (2) person-based, and (3) geography-based. Object-based biases relate to the size, context, or diversity of the depicted objects. Person-based metrics focus on analyzing the portrayal of people within the dataset. Geography-based analyses consider the representation of different geographic locations. These three dimensions are deeply intertwined in how they interact to bias a dataset, and REVISE sheds light on this; the responsibility then lies with the user to consider the cultural and historical context, and to determine which of the revealed biases may be problematic. The tool further assists the user by suggesting actionable steps that may be taken to mitigate the revealed biases. Overall, the key aim of our work is to tackle the machine learning bias problem early in the pipeline. REVISE is available at this https URL

연구 동기 및 목표

• 모델 배포 후에야 드러나는 기계 학습 데이터셋 내의 탐지되지 않은 편향 문제를 해결하기 위해.
• 체계적인 분석을 통해 대규모 이미지 데이터셋에서의 편향을 조기에 탐지할 수 있도록 하기 위해.
• 객체 표현, 인간 묘사, 지리적 커버리지의 불균형을 식별함으로써 편향 완화를 위한 실행 가능한 통찰을 제공하기 위해.
• 다양한 차원 간의 상호 관련 편향을 드러내어 데이터 전문가가 정보 기반 결정보다 더 나은 결정을 내릴 수 있도록 지원하기 위해.
• 문화적 및 역사적 맥락을 고려한 편향 패tern을 드러내어 편향된 모델 배포 위험을 줄이기 위해.

제안 방법

• 도구는 이미지 내 객체의 크기, 맥락, 다양성을 평가함으로써 객체 기반 분석을 수행합니다.
• 개인의 표현, 자세, 인구 통계적 묘사 수준을 평가하기 위해 인물 기반 분석을 수행합니다.
• 이미지에 묘사된 장소의 공간적 및 지역적 분포를 평가함으로써 지리 기반 분석을 수행합니다.
• REVISE는 이 세 가지 차원을 통합하여 고립된 상태에서는 드러나지 않을 수 있는 상호의존적 편향을 드러냅니다.
• 도구는 문제적 패턴을 강조하는 편향 보고서를 생성하고, 데이터셋 특성에 기반한 완화 전략을 제안합니다.
• 사용자는 문화적 및 역사적 맥락에서 발견된 결과를 이해하고, 책임감 있는 의사결정을 내릴 수 있도록 안내받습니다.

실험 결과

연구 질문

• RQ1 어떻게 모델 배포 이전에 이미지 데이터셋의 편향을 사전에 탐지할 수 있을까요?
• RQ2 편향이 시각적 데이터셋에서 나타나는 주요 차원은 무엇인가요?
• RQ3 객체 기반, 인물 기반, 지리 기반 편향은 어떻게 상호작용하고 누적되나요?
• RQ4 탐지된 편향 패턴을 바탕으로 제안할 수 있는 실행 가능한 완화 전략은 무엇인가요?
• RQ5 사용자는 어떻게 맥락적으로 책임감 있는 방식으로 편향 발견 결과를 해석하고 대응할 수 있을까요?

주요 결과

• REVISE는 이미지 데이터셋의 객체, 인물, 지리 차원에서 숨겨진 편향을 성공적으로 식별합니다.
• 도구는 편향이 종종 상호의존적임을 드러내며, 한 차원의 표현 패턴이 다른 차원에 영향을 줄 수 있음을 보여줍니다.
• 데이터 증강 또는 필터링 전략과 같은 실행 가능한 권고 사항을 제공합니다.
• 이 프레임워크는 편향을 조기에 탐지함으로써 불공정한 모델 배포 위험을 줄입니다.
• 사용자는 편향 패턴의 문화적 및 역사적 의미를 이해함으로써 맥락 인식 기반 결정보다 더 나은 결정을 내릴 수 있습니다.
• 이전에 드러나지 않았던 불균형을 드러내어 데이터셋 셀렉션의 투명성과 책임감을 강화합니다.