[논문 리뷰] Automatically detecting data drift in machine learning classifiers

Samuel Ackerman, Orna Raz외 2명|arXiv (Cornell University)|2021. 11. 10.

Anomaly Detection Techniques and Applications참고 문헌 12인용 수 7

한 줄 요약

이 논문은 입력 데이터나 정답 레이블이 필요 없이 모델의 예측 레이블과 신뢰도 점수만을 사용하여 기계학습 분류기에서 데이터 드리프트를 자동으로 탐지하는 새로운 레이블 없는 방법을 제안한다. 이 방법은 이러한 신뢰도 값을 순차적 변화점 탐지에 적용하여 비순차적 방법보다 이르고 더 낮은 거짓 경고 비율로 성능 저하를 탐지한다. 다양한 세 가지 데이터셋에서 효과를 입증하였으며, 입력 데이터나 정답 레이블이 필요하지 않다.

ABSTRACT

Classifiers and other statistics-based machine learning (ML) techniques generalize, or learn, based on various statistical properties of the training data. The assumption underlying statistical ML resulting in theoretical or empirical performance guarantees is that the distribution of the training data is representative of the production data distribution. This assumption often breaks; for instance, statistical distributions of the data may change. We term changes that affect ML performance `data drift' or `drift'. Many classification techniques compute a measure of confidence in their results. This measure might not reflect the actual ML performance. A famous example is the Panda picture that is correctly classified as such with a confidence of about 60\%, but when noise is added it is incorrectly classified as a Gibbon with a confidence of above 99\%. However, the work we report on here suggests that a classifier's measure of confidence can be used for the purpose of detecting data drift. We propose an approach based solely on classifier suggested labels and its confidence in them, for alerting on data distribution or feature space changes that are likely to cause data drift. Our approach identities degradation in model performance and does not require labeling of data in production which is often lacking or delayed. Our experiments with three different data sets and classifiers demonstrate the effectiveness of this approach in detecting data drift. This is especially encouraging as the classification itself may or may not be correct and no model input data is required. We further explore the statistical approach of sequential change-point tests to automatically determine the amount of data needed in order to identify drift while controlling the false positive rate (Type-1 error).

연구 동기 및 목표

• 정답 레이블이 자주 확보되지 않거나 지연되는 실사용 환경의 기계학습 시스템에서 데이터 드리프트를 탐지하는 데 있어 핵심 과제를 해결하기 위해.
• 입력 데이터나 정답 레이블이 없이 모델 출력만으로도 드리프트를 탐지할 수 있는 '감시자'(auditor)의 새로운 유형—특히 분류기 신뢰도 감시자—를 정의하기 위해.
• 데이터 의미를 변경하지 않은 채로 데이터 드리프트를 시뮬레이션할 수 있는 프레임워크를 개발하여, 드리프트 탐지 방법의 통제된 평가를 가능하게 하기 위해.
• 순차적 변화점 분석을 적용하여 드리프트 탐지에서 거짓 경고 비율을 통제하면서도 성능 저하에 민감하게 반응하도록 하기 위해.
• 신뢰도 점수가 정확성의 신뢰할 수 없는 지표임에도 불구하고 분포 이탈을 탐지하는 데 효과적인 신호가 될 수 있음을 입증하기 위해.

제안 방법

• 분류기 신뢰도 감시자는 예측 신뢰도 점수의 분포를 시간에 따라 모니터링하여 데이터 드리프트를 나타내는 심각한 변화를 탐지한다.
• 신뢰도 점수에 순차적 변화점 탐지 방법(CPM)을 적용하여 통계적으로 엄밀한 방식으로 드리프트 발생 시점을 식별한다.
• 생산 환경과 유사한 데이터에서 특성 분포를 수정함으로써 의미를 유지하면서도 통제된 방식으로 드리프트를 시뮬레이션한다.
• 다양한 분류기와 데이터셋을 대상으로 탐지 지연 시간과 거짓 경고 비율 등의 지표를 사용하여 감시자 성능을 평가한다.
• 실시간 모니터링에서 신뢰성을 확보하기 위해 순차적 가설 검정을 통해 제1종 오류(거짓 경고 비율)를 통제한다.
• 입력 특성이나 정답 레이블에 접근할 필요 없이 작동하므로 실생활 비즈니스 응용에 적합하다.

실험 결과

연구 질문

• RQ1 입력 데이터나 레이블에 접근할 수 없을 때 분류기 신뢰도 점수가 데이터 드리프트 탐지에 신뢰할 수 있는 신호가 될 수 있는가?
• RQ2 실시간 모니터링에서 거짓 경고 비율을 통제하면서 순차적 변화점 분석이 얼마나 효과적으로 드리프트를 탐지하는가?
• RQ3 데이터 의미를 유지하면서도 탐지 방법의 체계적 평가가 가능한 방식으로 데이터 드리프트를 시뮬레이션할 수 있는가?
• RQ4 비순차적 탐지 방법과 비교할 때 신뢰도 감시자의 탐지 속도와 정확도는 어떻게 다른가?
• RQ5 특성 분포 이탈 등의 다양한 유형의 데이터 드리프트가 신뢰도 기반 감시자의 성능에 어떤 영향을 미치는가?

주요 결과

• 분류기 신뢰도 감시자는 입력 데이터나 레이블이 없이도 세 가지 다양한 데이터셋과 여러 분류기 모델에서 데이터 드리프트를 성공적으로 탐지하였다. 이는 모델의 예측이 반드시 정확하지 않더라도 가능하다는 것을 의미한다.
• 순차적 변화점 탐지(CPM)는 비순차적 T-검정 방법보다 더 이른 탐지와 훨씬 낮은 거짓 경고 비율을 달성하였다.
• CPM 기반 접근법은 진짜 변화점(약 50번째 샘플) 이후 몇 개의 샘플 내에 드리프트를 탐지하였으며, 탐지 분포가 변화 이후 바로 뒤에 집중되어 있었다.
• 비순차적 방법은 진짜 변화점 이전에 잘못된 경고를 발생시켰거나(‘pairs’), 너무 늦게 드리프트를 탐지하였다(‘splits’), 이는 순차적 분석의 우월성을 보여준다.
• 레이블 데이터나 입력 특성이 필요 없이 신뢰할 수 있는 드리프트 탐지가 가능하여 실생활의 레이블 없이도 작동하는 생산 환경에 실용적이다.
• 신뢰도 점수가 모델 정확성의 낮은 지표임에도 불구하고 분포 이탈 탐지에 강력한 신호가 될 수 있음을 프레임워크가 입증하였다.