[논문 리뷰] Fairness and Bias in Robot Learning

Laura Londoño, Juana Valeria Hurtado외 4명|arXiv (Cornell University)|2022. 07. 07.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 종합 검토는 공정성에 관한 최초의 다학제적 프레임워크를 제시하며, 기술적, 윤리적, 법적 시각을 통합한다. 데이터, 모델, 구현, 사회적 구조 수준의 4단계 편향 분류 체계를 도입하고, 공정성 인지 방법을 제안하며, 공정한 인간-로봇 상호작용을 보장하기 위해 편향을 탐지하고 완화하고 예방하기 위한 실천 가능한 지침을 제공한다.

ABSTRACT

Machine learning has significantly enhanced the abilities of robots, enabling them to perform a wide range of tasks in human environments and adapt to our uncertain real world. Recent works in various machine learning domains have highlighted the importance of accounting for fairness to ensure that these algorithms do not reproduce human biases and consequently lead to discriminatory outcomes. With robot learning systems increasingly performing more and more tasks in our everyday lives, it is crucial to understand the influence of such biases to prevent unintended behavior toward certain groups of people. In this work, we present the first survey on fairness in robot learning from an interdisciplinary perspective spanning technical, ethical, and legal challenges. We propose a taxonomy for sources of bias and the resulting types of discrimination due to them. Using examples from different robot learning domains, we examine scenarios of unfair outcomes and strategies to mitigate them. We present early advances in the field by covering different fairness definitions, ethical and legal considerations, and methods for fair robot learning. With this work, we aim to pave the road for groundbreaking developments in fair robot learning.

연구 동기 및 목표

• 특정 인류 집단에 대해 차별적 행동을 유도할 수 있는 알고리즘 편향 문제에 대한 증가하는 우려를 다루기 위해.
• 데이터 수집부터 배포까지 로봇 학습 라이프사이클 전반에 걸쳐 편향의 원인을 식별하고 분류하기 위해.
• 기술적, 윤리적, 법적 시각을 통합하여 공정성 인지 로봇 학습을 위한 통합적 프레임워크를 개발하기 위해.
• 개발자들이 사회적 책임감 있고 포용적인 로봇 행동을 확보하기 위해 실천 가능한 지침과 완화 전략을 제안하기 위해.
• 공정성 인지 실천의 도입을 촉진하여 신뢰성, 안전성 및 사회적 수용도를 향상시키기 위해.

제안 방법

• 데이터 수준(데이터 수집 및 처리), 모델 수준(학습 및 학습), 구현 수준(배포 및 운영), 사회적 구조 조건을 포함한 4단계 편향 분류 체계를 제안한다.
• 사회적, 역사적, 측정, 표현 편향으로 나누어 각 편향 유형을 로봇 학습의 특정 단계와 연결한다.
• 로봇 학습에 특화된 공정성 정의, 지표, 완화 기법을 도입하며, 제약 최적화 및 온라인 평가 프레임워크를 포함한다.
• 윤리적 및 법적 고려사항을 로봇 학습 파이프라인에 통합하여 차별 금지 원칙 준수와 인간 중심 설계의 중요성을 강조한다.
• 표현 편향을 줄이고 공정성을 향상시키기 위해 포괄적인 개발 팀과 다양한 트레이닝 데이터의 사용을 권장한다.
• 실시간으로 불공정한 행동을 탐지하고 수정할 수 있도록 온라인 평가 및 지속적인 모니터링 시스템을 제안한다.

실험 결과

연구 질문

• RQ1 로봇 학습 시스템에서 개발 및 배포의 다양한 단계에서 발생할 수 있는 주요 편향 원인과 유형은 무엇인가?
• RQ2 로봇 학습에서 공정성을 어떻게 형식적으로 정의하고 측정할 수 있는가, 특히 인간-로봇 상호작용 및 의사결정 맥락에서?
• RQ3 로봇 학습 시스템의 편향을 탐지하고 방지하며 완화하기 위해 기술적, 윤리적, 법적 전략을 어떻게 활용할 수 있는가?
• RQ4 다학제적 협업은 실생활 인간 중심 환경에서 로봇 학습 시스템의 공정성과 포용성을 어떻게 향상시킬 수 있는가?
• RQ5 사회적 구조적 요인과 팀의 다양성은 로봇 학습 결과의 공정성에 어떤 역할을 하는가?

주요 결과

• 로봇 학습에서의 편향은 모든 학습 파이프라인 단계에서 사회적, 역사적, 측정, 표현 편향 등의 다양한 원인에서 기인한다.
• 제안된 4단계 편향 분류 체계를 통해 데이터, 모델, 구현, 사회적 구조 수준에서의 편향을 체계적으로 식별할 수 있다.
• 제약 최적화 및 온라인 평가와 같은 공정성 인지 학습 방법은 로봇의 차별적 행동을 효과적으로 감소시킬 수 있다.
• 포괄적인 개발 팀과 다양한 트레이닝 데이터는 표현 편향을 크게 줄이고 로봇 행동의 공정성을 향상시킨다.
• 특수한 학습 프레임워크를 통해 훈련 중에 부적절한 행동(예: 무례한 언어)을 조기에 탐지하고 제재할 수 있다.
• 지속적인 온라인 평가 및 피드백 루프를 통해 로봇은 새로운 동적 사회적 맥락에 윤리적으로 적응할 수 있으며, 이는 장기적인 공정성과 안전성 향상에 기여한다.