[논문 리뷰] Evaluating Model Robustness and Stability to Dataset Shift

Adarsh Subbaswamy, Roy J. Adams외 1명|arXiv (Cornell University)|2020. 10. 28.

Machine Learning in Healthcare참고 문헌 46인용 수 24

한 줄 요약

이 논문은 새로운 데이터 수집 없이 데이터셋 이탈에 대한 기계학습 모델의 강건성 평가를 위한 데이터 기반 프레임워크를 제안한다. 이는 사용자가 정의한 조건부 이탈(예: 환자 인구통계는 그대로 유지하면서 임상 관행의 변화) 하에서 최악의 부분집단을 특정하기 위해 보정된 추정기(debiased estimator)를 사용하며, 의료와 같은 고위험 분야에서 사전 안전 평가를 가능하게 한다.

ABSTRACT

As the use of machine learning in high impact domains becomes widespread, the importance of evaluating safety has increased. An important aspect of this is evaluating how robust a model is to changes in setting or population, which typically requires applying the model to multiple, independent datasets. Since the cost of collecting such datasets is often prohibitive, in this paper, we propose a framework for analyzing this type of stability using the available data. We use the original evaluation data to determine distributions under which the algorithm performs poorly, and estimate the algorithm's performance on the "worst-case" distribution. We consider shifts in user defined conditional distributions, allowing some distributions to shift while keeping other portions of the data distribution fixed. For example, in a healthcare context, this allows us to consider shifts in clinical practice while keeping the patient population fixed. To address the challenges associated with estimation in complex, high-dimensional distributions, we derive a "debiased" estimator which maintains $\sqrt{N}$-consistency even when machine learning methods with slower convergence rates are used to estimate the nuisance parameters. In experiments on a real medical risk prediction task, we show this estimator can be used to analyze stability and accounts for realistic shifts that could not previously be expressed. The proposed framework allows practitioners to proactively evaluate the safety of their models without requiring additional data collection.

연구 동기 및 목표

• 의료 및 금융과 같은 고영향도 분야에서 기계학습 모델의 사전 안전 평가에 대한 필수적인 필요성을 해결하기 위해.
• 새로운 비용이 드는 데이터셋을 수집하지 않고도 데이터셋 이탈 하에서의 강건성 평가를 가능하게 하기 위해.
• 환자 인구통계 분포를 유지하면서도 임상적 의사결정 방식의 변화와 같은 세밀한 이탈을 모델링하기 위해.
• 잡음 매개변수의 추정 속도가 느릴 경우에도 √N 수렴성을 유지하는 통계적으로 일관된 추정기 개발을 위해.
• 모델 배포 이전에 위험한 배포 조건을 식별할 수 있도록 실무자에게 도구를 제공하기 위해.

제안 방법

• 사용자가 정의한 데이터 분포의 조건부 이탈 기반으로 불확실성 집합을 정의하는 분포로 강건한 최적화(DRO) 프레임워크를 수립한다.
• 기계학습 모델이 잡음 매개변수를 느린 수렴 속도로 추정하더라도 √N 수렴성을 확보하기 위해 '보정된(debiased)' 추정기를 도입한다.
• 기존 평가 데이터셋을 활용하여, 다른 분포 요소는 고정된 채로 조건부 분포만 변화시키는 최적화를 통해 최악의 부분집단을 추론한다.
• 실제 의료 위험 예측 과제에 프레임워크를 적용하여, 검사 순서 패턴 변화와 같은 임상적으로 관련성이 있는 이탈 하에서의 안정성을 평가한다.
• 모델의 조건부 손실과 잡음 매개변수를 분리하여 추정하는 반반파라미터적 추정 접근법을 활용하여, 최악의 성능 추정에서의 편향을 감소시킨다.
• P(검사 순서 | 연령, 병력)와 같이 다양한 이탈을 영속적으로 지정할 수 있도록 지원하여, 임상 관행 변화와 환자 인구 변화를 분리할 수 있다.

실험 결과

연구 질문

• RQ1 새로운 데이터 수집 없이 기계학습 모델의 데이터셋 이탈에 대한 강건성을 어떻게 평가할 수 있는가?
• RQ2 기존 데이터를 활용해 의미 있게 모델링하고 평가할 수 있는 조건부 이탈의 유형(예: 임상 관행 변화)은 무엇인가?
• RQ3 잡음 매개변수를 느린 수렴 속도를 보이는 기계학습 방법으로 추정할 때 보정된 추정기가 통계적 일관성을 유지할 수 있는가?
• RQ4 제안된 프레임워크는 주어진 이탈 하에서 최악의 부분집단을 어떻게 식별하며, 이러한 부분집단의 특성은 무엇인가?
• RQ5 이 방법은 실제 정책 관련 이탈, 즉 모델 배포 시 실패로 이어질 수 있는 이탈을 어느 정도 탐지할 수 있는가?

주요 결과

• 제안된 보정된 추정기는 잡음 매개변수를 수렴 속도가 느린 기계학습 모델로 추정하더라도 여전히 √N 수렴성을 유지한다.
• 프레임워크는 환자 인구통계는 그대로 유지하면서도 검사 순서 변화와 같은 임상적으로 의미 있는 조건부 이탈 하에서 최악의 부분집단을 성공적으로 식별하였으며, 기존 표준 이탈 공식으로는 표현할 수 없었던 사례를 포함한다.
• 실제 의료 위험 예측 과제에서, 환자 인구통계는 그대로 유지되더라도 임상 관행 변화에 따라 성능 저하가 심각하게 발생하는 것을 이 방법이 탐지하였다.
• 이 방법은 모델 성능이 저하되는 특정 부분집단을 식별할 수 있어, 모델의 정교화나 데이터 수집에 대한 대응이 가능하다.
• 병원 간 검사 순서의 변화와 같은 현실적인 정책 기반 이탈을 고려하여, 의료 분야에서의 안전한 배포에 필수적인 요소를 반영한다.
• 프레임워크는 사전 안전 평가를 지원하여, 추가적인 데이터 수집 없이도 실무자가 모델의 실패 모드를 사전에 예측할 수 있도록 한다.