[논문 리뷰] Prescriptive Machine Learning for Automated Decision Making: Challenges and Opportunities

Eyke Hüllermeier|arXiv (Cornell University)|2021. 12. 15.

Explainable Artificial Intelligence (XAI)인용 수 7

한 줄 요약

이 논문은 실질적 기계학습에서 합리적이고 책임감 있으며 투명한 자동 결정을 가능하게 하기 위해 의사결정 이론적 기반을 주장한다. 이는 제한된 합리성, 불확실성 모델링, 선호도 학습을 기반으로 하여 기존 예측 모델링을 초월해 신뢰성, 공정성, 윤리적 책임 문제를 해결하고자 한다.

ABSTRACT

Recent applications of machine learning (ML) reveal a noticeable shift from its use for predictive modeling in the sense of a data-driven construction of models mainly used for the purpose of prediction (of ground-truth facts) to its use for prescriptive modeling. What is meant by this is the task of learning a model that stipulates appropriate decisions about the right course of action in real-world scenarios: Which medical therapy should be applied? Should this person be hired for the job? As argued in this article, prescriptive modeling comes with new technical conditions for learning and new demands regarding reliability, responsibility, and the ethics of decision making. Therefore, to support the data-driven design of decision-making agents that act in a rational but at the same time responsible manner, a rigorous methodological foundation of prescriptive ML is needed. The purpose of this short paper is to elaborate on specific characteristics of prescriptive ML and to highlight some key challenges it implies. Besides, drawing connections to other branches of contemporary AI research, the grounding of prescriptive ML in a (generalized) decision-theoretic framework is advocated.

연구 동기 및 목표

• 실제 환경에서 자동 결정을 지원하는 데에 한계가 있는 예측 기계학습의 문제를 해결하기 위해.
• 실질적 기계학습의 핵심 과제인 기준 결정의 부재, 불확실성 표현, 윤리적 책임 문제를 규명하기 위해.
• 제한된 합리성, 선호도 학습, 윤리 기준을 통합하는 의사결정 이론적 기반으로의 방법론적 전환을 주장하기 위해.
• 결정 과정의 가정과 기준을 형식화하여 알고리즘 결정의 투명성, 책임감, 공정성을 확보하기 위해.

제안 방법

• 선호도와 불확실성의 형식적 표현으로서 유틸리티 함수와 확률 분포를 사용하여 실질적 기계학습을 일반화된 의사결정 이론에 기반화하기 위해.
• 계산 자원 제약과 자원 제약 하에서의 현실적인 의사결정을 모델링하기 위해 제한된 합리성을 통합하기 위해.
• 사전에 정의된 것으로 가정하는 대신, 데이터에서 선호도와 불확실성 표현을 기계학습을 통해 추론하기 위해.
• 신뢰도와 자기 인식을 향상시키기 위해 지식 부족(지식적 불확실성)과 본질적 랜덤성(알레아토릭 불확실성)을 구분하기 위해.
• 공정성과 같은 윤리 기준을 의사결정 과정의 형식적 입력으로 통합하기 위해.
• 검증 가능한 기준 결정이 없는 상황에서 의사결정의 잠재적 결과를 평가하기 위해 반사적 추론을 사용하기 위해.

실험 결과

연구 질문

• RQ1 기계학습이 예측을 넘어서 실질적 의사결정 지원을 체계적으로 어떻게 적응시킬 수 있는가?
• RQ2 기준 결정이 제공되지 않는 상황에서 최적의 결정을 학습할 때의 주요 기술적 및 윤리적 과제는 무엇인가?
• RQ3 특히 지식적 불확실성과 같은 불확실성은 실질적 기계학습 시스템에서 어떻게 형식적으로 표현하고 관리할 수 있는가?
• RQ4 제한된 합리성이 기계학습에 어떻게 통합되어 현실적인 의사결정 제약 조건을 반영할 수 있는가?
• RQ5 공정성과 같은 윤리 원칙은 어떻게 기계학습 에이전트의 의사결정 과정에 형식적으로 통합될 수 있는가?

주요 결과

• 결정에 대한 검증 가능한 기준 결정이 없기 때문에 표준 예측 기계학습은 실질적 의사결정 지원에 부적합하다.
• 실질적 기계학습은 최적의 결정이 직접 관측되지 않으며 반사적 추론을 통해 유추되어야 하므로 약한 감독 하에서 학습이 필요하다.
• 의사결정 이론적 기반은 선호도와 불확실성을 형식화함으로써 원칙적이고 투명하며 윤리적으로 정당화된 자동 결정을 가능하게 한다.
• 지식적 불확실성과 알레아토릭 불확실성을 구분함으로써 의사결정 과정에서의 시스템 신뢰도와 자기 인식이 향상된다.
• 제한된 합리성은 자동 의사결정에서 계산 및 인지적 제약 조건을 현실적으로 모델링할 수 있는 프레임워크를 제공한다.
• 공정성과 같은 윤리 기준은 사후 조정이 아닌 의사결정 모델에 형식적으로 통합되어야 한다.