[논문 리뷰] Fair and Unbiased Algorithmic Decision Making: Current State and Future Challenges

Songül Tolan|arXiv (Cornell University)|2019. 01. 15.

Ethics and Social Impacts of AI인용 수 41

한 줄 요약

알고리즘 의사결정에서의 공정성에 대한 비판적 개관으로, 공정성 정의의 복잡성, 통계적 기준의 한계, 도메인 특화 제약, 투명성 및 감사를 필요로 함을 강조한다.

ABSTRACT

Machine learning algorithms are now frequently used in sensitive contexts that substantially affect the course of human lives, such as credit lending or criminal justice. This is driven by the idea that `objective' machines base their decisions solely on facts and remain unaffected by human cognitive biases, discriminatory tendencies or emotions. Yet, there is overwhelming evidence showing that algorithms can inherit or even perpetuate human biases in their decision making when they are based on data that contains biased human decisions. This has led to a call for fairness-aware machine learning. However, fairness is a complex concept which is also reflected in the attempts to formalize fairness for algorithmic decision making. Statistical formalizations of fairness lead to a long list of criteria that are each flawed (or harmful even) in different contexts. Moreover, inherent tradeoffs in these criteria make it impossible to unify them in one general framework. Thus, fairness constraints in algorithms have to be specific to the domains to which the algorithms are applied. In the future, research in algorithmic decision making systems should be aware of data and developer biases and add a focus on transparency to facilitate regular fairness audits.

연구 동기 및 목표

• 민감한 도메인에서의 기계 학습이 데이터와 의사결정으로부터 편향을 물려받을 수 있는 이유를 설명한다.
• 맥락별로 기존의 공정성 기준과 그 한계를 조사한다.
• 공정성 제약은 단일 프레임워크로 통일하기보다는 특정 도메인에 맞게 맞춤화되어야 한다고 주장한다.
• 데이터 및 개발자 편향을 다루기 위한 투명성 및 주기적인 공정성 감사의 중요성을 강조한다.

제안 방법

• 공정성 인지 기계학습 및 그 형식화에 관한 문헌을 검토하고 합성한다.
• 다양한 맥락에서의 통계적 공정성 기준의 한계와 트레이드오프를 논의한다.
• 도메인 특화 공정성 제약과 투명성 기반 거버넌스에 대한 주장을 제시한다.

실험 결과

연구 질문

• RQ1 다양한 적용 도메인에서 표준 통계적 공정성 개념의 한계는 무엇인가?
• RQ2 데이터 및 개발자 편향이 알고리즘 의사결정에 어떤 영향을 미치며, 투명성이 어떻게 감사를 가능하게 할 수 있는가?
• RQ3 왜 공정성 제약은 모든 상황에 보편적으로 통합되기보다 맥락에 특화되어야 하는가?

주요 결과

• 공정성 기준은 다양하고 대개 결함이 있으며, 하나의 보편적 프레임워크를 방해하는 트레이드오프가 있다.
• 알고리즘은 편향된 데이터나 의사결정으로 학습될 때 인간 편향을 내재화하고 확대할 수 있다.
• 공정성 제약은 의미 있고 효과적이 되도록 적용 도메인에 맞게 맞춤화되어야 한다.
• 향후 연구는 정기적인 공정성 감사를 용이하게 하도록 투명성을 강조해야 한다.
• 데이터와 개발자 편향에 대한 인식은 공정한 의사결정을 촉진하는 데 필수적이다.