[논문 리뷰] When Does Uncertainty Matter?: Understanding the Impact of Predictive Uncertainty in ML Assisted Decision Making

Sean McGrath, Parth S. Mehta외 3명|arXiv (Cornell University)|2020. 11. 11.

Decision-Making and Behavioral Economics인용 수 8

한 줄 요약

이 연구는 기계학습 지원 작업에서 인간의 의사결정에 영향을 미치는 예측 불확실성—특히 다양한 형태와 분산을 가진 사후 예측 분포—의 영향을 조사한다. 1,330명의 응답을 확보한 사용자 연구를 통해, 다양한 전문성 수준에서 예측 불확실성을 시각화하면 모델 예측과의 불일치가 감소하는 것으로 나타났다. 다만 효과는 분포 유형과 사용자 전문성 수준에 따라 다를 수 있으며, 사용자 맥락에 맞게 조정된 예측 불확실성은 의사결정 지원 도구로서 유용할 수 있음을 시사한다.

ABSTRACT

As machine learning (ML) models are increasingly being employed to assist human decision makers, it becomes critical to provide these decision makers with relevant inputs which can help them decide if and how to incorporate model predictions into their decision making. For instance, communicating the uncertainty associated with model predictions could potentially be helpful in this regard. In this work, we carry out user studies (1,330 responses from 190 participants) to systematically assess how people with differing levels of expertise respond to different types of predictive uncertainty (i.e., posterior predictive distributions with different shapes and variances) in the context of ML assisted decision making for predicting apartment rental prices. We found that showing posterior predictive distributions led to smaller disagreements with the ML model's predictions, regardless of the shapes and variances of the posterior predictive distributions we considered, and that these effects may be sensitive to expertise in both ML and the domain. This suggests that posterior predictive distributions can potentially serve as useful decision aids which should be used with caution and take into account the type of distribution and the expertise of the human.

연구 동기 및 목표

• 기계학습 지원 환경에서 다양한 유형의 예측 불확실성이 인간의 의사결정에 미치는 영향를 이해하는 것.
• 도메인 전문성과 기계학습 이해도가 예측 불확실성을 해석하고 반응하는 데 미치는 역할을 분석하는 것.
• 사후 예측 분포를 공유함으로써 인간 예측과 모델 출력 간의 불일치가 감소하는지 평가하는 것.
• 예측 불확실성 분포의 형태와 분산이 인간의 신뢰도 및 의사결정 일치도에 미치는 영향을 평가하는 것.
• 실제 예측 작업에서 예측 불확실성 공유의 실용성에 대한 경험적 증거를 제공하는 것.

제안 방법

• 기계학습 전문성과 도메인 전문성을 고려하여 Prolific 및 대학 연구 그룹을 통해 모집한 190명의 참가자를 대상으로, 매사추세츠주 캠브리지의 아파트 임대료를 예측하는 사용자 연구를 수행하였다.
• 참가자들은 모델 정보 없이 가격 예측을 먼저 제출한 후, 다양한 형태와 분산을 가진 사후 예측 분포를 동반한 모델 예측을 시각화하였다.
• 모델 출력과 예측 불확실성 표현 노출 이전 및 이후의 인간 예측 변화를 측정하기 위해 이중 단계 설계를 사용하였다.
• 다양한 유형의 예측 불확실성에 따른 인간과 모델 예측 간 불일치를 평가하기 위해 총 1,330건의 응답을 수집하였다.
• 도메인 전문성 및 기계학습 전문성 수준을 제어하여 예측 불확실성 표현이 의사결정 일치도에 미치는 영향을 분석하였다.
• 통계 모델링을 활용하여 다양한 사후 예측 분포 유형과 전문성 그룹 간 불일치 수준을 비교하였다.

실험 결과

연구 질문

• RQ1 다양한 형태와 분산을 가진 사후 예측 분포를 제시할 경우 인간이 기계학습 모델 예측과의 일치도에 어떤 영향을 미치는가?
• RQ2 도메인 전문성이 기계학습 지원 의사결정에서 예측 불확실성을 해석하고 반응하는 방식에 어떤 영향을 미치는가?
• RQ3 기계학습에 대한 익숙함이 예측 불확실성 공유가 의사결정 결과에 미치는 영향에 어떤 영향을 미치는가?
• RQ4 다양한 전문성 수준에서 예측 불확실성 공유가 인간과 모델 예측 간 불일치를 감소시키는가?
• RQ5 예를 들어 이중정규분포와 고분산 정규분포와 같은 다양한 형태의 예측 불확실성이 인간의 의사결정 행동에 어떤 영향을 미치는가?

주요 결과

• 다양한 형태나 분산을 가진 사후 예측 분포를 제시함으로써 인간의 모델 예측과의 불일치가 유의미하게 감소하였다. 이는 분포의 형태나 분산에 관계없이 동일하게 적용되었다.
• 도메인 전문성이 높은 참가자들은 초기에 모델 예측과의 불일치가 더 적었지만, 예측 불확실성 공유로 모든 전문성 수준에서 불일치가 감소하였다.
• 예측 불확실성 표현의 효과는 도메인 전문성과 기계학습 전문성 양측 모두에 민감하게 영향을 받았으며, 이는 전문가 사용자가 비전문가와는 다를 수 있는 방식으로 예측 불확실성을 해석할 수 있음을 시사한다.
• 높은 분산 또는 이중정규분포 형태의 사후 예측 분포조차도 불일치를 감소시켰다. 이는 예측 불확실성 공유가 모델 출력과의 일치도를 향상시킬 수 있음을 의미한다.
• 복잡한 예측 불확실성 분포(예: 이중정규분포)가 단순한 분포보다 혼란이나 오류 일치도 증가를 유발한다는 증거는 발견되지 않았다.
• 결과적으로 예측 불확실성 공유가 의사결정 지원 도구로 활용될 수 있음을 시사하지만, 그 효과는 사용자의 전문성과 제시된 예측 불확실성의 형태에 따라 달라진다.