[논문 리뷰] Debiasing Methods for Fairer Neural Models in Vision and Language Research: A Survey

Otávio Parraga, Martin D. Móre외 7명|arXiv (Cornell University)|2022. 11. 10.

Ethics and Social Impacts of AI인용 수 7

한 줄 요약

이 종합적 서베이에서는 시각 및 언어 신경망에서 공정성에 대한 편향 제거 방법에 대한 포괄적인 분류 체계를 제시하며, 사전 처리, 내부 처리, 사후 처리 기법을 분석한다. 이는 기초 모델에서의 편향 완화에 특히 초점을 맞추며, 성능을 희생시키지 않은 채 강건하고 일반화 가능한 공정성을 달성하기 위해 공정성 인식 테이닝 및 프롬프팅을 지지한다.

ABSTRACT

Despite being responsible for state-of-the-art results in several computer vision and natural language processing tasks, neural networks have faced harsh criticism due to some of their current shortcomings. One of them is that neural networks are correlation machines prone to model biases within the data instead of focusing on actual useful causal relationships. This problem is particularly serious in application domains affected by aspects such as race, gender, and age. To prevent models from incurring on unfair decision-making, the AI community has concentrated efforts in correcting algorithmic biases, giving rise to the research area now widely known as fairness in AI. In this survey paper, we provide an in-depth overview of the main debiasing methods for fairness-aware neural networks in the context of vision and language research. We propose a novel taxonomy to better organize the literature on debiasing methods for fairness, and we discuss the current challenges, trends, and important future work directions for the interested researcher and practitioner.

연구 동기 및 목표

• 시각 및 언어 신경망에서 알고리즘 편향이라는 중요한 문제를 다루며, 이는 종종 인과 관계 대신 유사한 상관관계를 학습하기 때문이다.
• 공정성 인식 AI에서 사전 처리, 내부 처리, 사후 처리 파라다임 전반에 걸친 편향 제거 기법에 대한 체계적인 개요를 제공한다.
• 시각 및 언어 연구 분야의 기존 편향 제거 방법을 보다 잘 정리하고 분류하기 위해 새로운 분류 체계를 제안한다.
• 특히 대규모 기초 모델에서의 공정성 문제를 부각시키며, 아직 탐색되지 않은 연구 방향을 식별한다.
• 공정성, 투명성, 윤리적인 배포를 강조하여 연구자 및 실무자들이 더 책임감 있는 AI 개발로 나아가도록 이끈다.

제안 방법

• 입력 시점(사전 처리, 내부 처리, 사후 처리)과 모odal(시각, 언어, 다중모달)을 기반으로 편향 제거 방법을 분류하는 새로운 분류 체계를 제안한다.
• 민족적 평등, 동등 기회, 동등한 오차와 같은 공정성 메트릭을 검토하며, 이들이 시각 및 NLP 작업에서의 적용 가능성과 한계를 평가한다.
• 민감한 속성을 예측에서 분리하기 위해 적대적 훈련, 분리 표현 학습, 인과 추론과 같은 내부 처리 기법을 분석한다.
• 재가중 및 임계값 조정과 같은 사후 처리 방법을 검토하여 재학습 없이 추론 후 모델 출력을 수정한다.
• 공정성과 작업 성능 간의 트레이드오프를 균형 잡기 위해 다중 작업 최적화 및 파레토 경계 생성 기법을 탐색한다.
• 기초 모델에 초점을 맞추며, 스케일링 가능한 효과적인 전략으로서 테이닝 및 프롬프트 기반 적응을 지지한다.

실험 결과

연구 질문

• RQ1 편향 제거 방법을 체계적으로 분류하고 조직함으로써 공정성 연구의 명확성과 접근성을 향상시킬 수 있는 방법은 무엇인가?
• RQ2 시각 및 언어 모델에서 편향을 완화하기 위해 가장 효과적인 사전 처리, 내부 처리, 사후 처리 기법은 무엇인가?
• RQ3 민족적 평등 및 동등 기회와 같은 공정성 메트릭은 다양한 시각 및 NLP 작업 및 데이터 모달에서 어떻게 작동하는가?
• RQ4 대규모 기초 모델에 편향 제거 기법을 적용할 때의 주요 과제는 무엇이며, 이를 어떻게 해결할 수 있는가?
• RQ5 특히 기초 모델의 맥락에서 신경망에서의 공정성을 달성하기 위한 가장 유망한 미래 연구 방향은 무엇인가?

주요 결과

• 제안된 분류 체계는 점점 증가하는 편향 제거 문헌을 더 명확하게 정리하며, 특정 모달 유형 조합에 대한 탐색이 부족한 연구 격차를 드러낸다.
• 기초 모델는 스케일과 광범위한 적용성로 인해 고유한 공정성 과제를 안고 있으며, 이는 편향 제거를 위한 사전 처리 및 단일 단계 훈련이 불가능하게 만든다.
• 테이닝 및 프롬프트 기반 적응은 기초 모델의 편향 제거에 가장 실현 가능하고 스케일링 가능한 접근법으로 확인되었으며, 공정성과 성능을 균형 잡는 데 기여한다.
• 파레토 경계 생성과 같은 다중 작업 최적화 기법은 공정성과 작업별 성능 메트릭 간 효율적인 트레이드오프를 식별하는 데 도움이 된다.
• 분리 및 인과 추론 기법은 공정성 일반화를 향상시키는 데 유망한 것으로 나타났지만, 종종 작업 정확도가 감소하는 비용이 수반된다.
• 기초 모델의 오픈소스화는 실제 운영 환경에서 공정성 문제의 발견과 완화를 가속화하는 데 필수적이다.