[논문 리뷰] Rethinking and Recomputing the Value of Machine Learning Models

Burcu Sayin, Jie Yang외 3명|arXiv (Cornell University)|2022. 09. 30.

Business Process Modeling and Analysis인용 수 4

한 줄 요약

이 논문은 기계학습 모델 평가가 정확도 중심 지표에서 가치 기반 평가로 전환되어야 한다고 주장한다. 여기서 모델의 유용성은 적용 맥락, 기각 임계치, 오류 비용에 따라 달라진다. 연구는 오류 비용이 높을 경우 단순 모델이 복잡한 모델보다 실제 가치에서 뛰어나며, 기각 임계치 설정과 가치 기반 선택 기법이 보정 또는 정확도만을 고려하는 것보다 훨씬 뛰어나다는 것을 보여준다.

ABSTRACT

In this paper, we argue that the prevailing approach to training and evaluating machine learning models often fails to consider their real-world application within organizational or societal contexts, where they are intended to create beneficial value for people. We propose a shift in perspective, redefining model assessment and selection to emphasize integration into workflows that combine machine predictions with human expertise, particularly in scenarios requiring human intervention for low-confidence predictions. Traditional metrics like accuracy and f-score fail to capture the beneficial value of models in such hybrid settings. To address this, we introduce a simple yet theoretically sound "value" metric that incorporates task-specific costs for correct predictions, errors, and rejections, offering a practical framework for real-world evaluation. Through extensive experiments, we show that existing metrics fail to capture real-world needs, often leading to suboptimal choices in terms of value when used to rank classifiers. Furthermore, we emphasize the critical role of calibration in determining model value, showing that simple, well-calibrated models can often outperform more complex models that are challenging to calibrate.

연구 동기 및 목표

• 정확도나 보정 지표가 아닌 실제 세계의 가치를 중심으로 기계학습 모델 평가를 재정의한다.
• 오류 비용이 높은 엔터프라이즈 및 사회적 AI 응용 분야에서 표준 모델 평가 방법의 한계를 다룬다.
• 모델 선택이 예측 성능뿐 아니라 워크플로우 통합에서의 가치를 우선시해야 한다는 점을 입증한다.
• 선택적 AI 시스템에서 정확도나 보정 지표를 모델 유용성의 대체 지표로 사용할 경우 발생하는 위험을 부각한다.
• 특정 도메인에 특화된 훈련을 거친 단순 모델이 오차 비용이 높을 경우 대규모 사전 훈련된 모델보다 가치 측면에서 뛰어나다는 것을 보여준다.

제안 방법

• 기각 비율, 예측 정확도, 오류 비용을 고려한 가치 함수를 통해 모델 평가를 재정의한다.
• 모델의 가치를 다양한 기각 임계치(k)에 대해 기대 유용도로 계산하여 실제 배포 환경을 시뮬레이션한다.
• 실험은 인간이 개입하는 워크플로우를 시뮬레이션하기 위해 기각 기반 접근법을 사용하며, 다양한 비용 요소에서 가치를 측정한다.
• 정확도 외에 다양한 k 값(예: k=1에서 k=10까지)에 대한 가치 곡선을 기반으로 모델를 비교하여 실제 비용 트레이드오프를 반영한다.
• MDS 데이터셋에서 TF-IDF, BERT, T5, 미세조정된 GPT-3를 포함한 다양한 모델을 도메인 특화 텍스트 인코더와 함께 평가한다.
• 이론적 기준치를 사용해 가치를 계산하고, 결과를 가치 곡선으로 시각화하여 비용 민감한 상황에서의 모델 성능을 비교한다.

실험 결과

연구 질문

• RQ1 오류 및 기각에 대한 비용 요인이 다를 경우 모델의 가치가 어떻게 변화하는가?
• RQ2 정확도나 F1과 같은 표준 지표가 선택적 AI 시스템에서 실제 세계의 모델 유용성을 예측하는 데 얼마나 실패하는가?
• RQ3 오류 비용이 높을 경우 단순 모델이 대규모 사전 훈련된 모델보다 가치 측면에서 뛰어날 수 있는가?
• RQ4 모델의 보정 수준과 고신뢰도 예측이 정확한지에 대한 확률 간의 관계는 어떻게 되는가?
• RQ5 특정 도메인 외부 데이터로 훈련된 모델과 오차 비용이 높은 상황에서의 가치에 미치는 도메인 특화 훈련 및 분포 외 데이터의 영향은 무엇인가?

주요 결과

• TF-IDF 인코더를 사용한 단순 모델인 로지스틱 회귀 및 MLP1은 오차 비용이 높은 경우(예: k ≥ 4) 복잡한 모델인 T5나 SieBERT보다 가치 측면에서 뛰어나다.
• 미세조정된 GPT-3 모델은 주방 데이터셋에서 높은 정확도(85.3%)를 기록하지만, k=10일 경우 음수의 가치를 기록하여 높은 정확도가 반드시 유용성을 보장하지는 않음을 보여준다.
• 신뢰도 기반 예측 필터링이 모델 가치를 크게 향상시키며, 보정 방법보다 기준치 조정이 가치 극대화에 더 효과적임을 확인했다.
• 보정이 이루어져도 신뢰도 점수는 정확도를 정확히 반영하지 못해 표준 보정 지표의 신뢰성을 떨어뜨린다.
• 도메인 외부 데이터로 훈련된 모델은 오차 비용이 증가함에 따라 가치가 급격히 떨어지지만, 도메인 내 단순 모델은 뛰어난 성능을 유지한다.
• 가치 곡선은 최적의 모델이 사용 사례에 따라 달라진다는 점을 보여주며, 예를 들어 DVD에 최적인 모델이 주방에서는 최적일 수 없음을 강조한다. 이는 맥락 의존성의 중요성을 시사한다.