[논문 리뷰] Designing Evaluations of Machine Learning Models for Subjective Inference: The Case of Sentence Toxicity

Agathe Balayn, Alessandro Bozzon|arXiv (Cornell University)|2019. 11. 06.

Mobile Crowdsensing and Crowdsourcing참고 문헌 32인용 수 5

한 줄 요약

이 논문은 문장의 독성과 같은 주관적 추론 작업에서 기계 학습 모델의 평가 벤치마크를 설계하기 위한 사양 프레임워크를 제안한다. 기존의 다수결 투표 집계 방식이 주관성을 왜곡함을 보이며, CrowdTruth 분석을 통해 레이블 품질과 모호성이 레이블링 체계에 따라 크게 달라짐을 입증한다. 특히 이중 분류(독성/비독성)를 사용한 세트업 1이 가장 신뢰할 수 있는 결과를 보였으며, MSE: 0.0103, AUROC: 0.9452의 수치를 기록하였다.

ABSTRACT

Machine Learning (ML) is increasingly applied in real-life scenarios, raising concerns about bias in automatic decision making. We focus on bias as a notion of opinion exclusion, that stems from the direct application of traditional ML pipelines to infer subjective properties. We argue that such ML systems should be evaluated with subjectivity and bias in mind. Considering the lack of evaluation standards yet to create evaluation benchmarks, we propose an initial list of specifications to define prior to creating evaluation datasets, in order to later accurately evaluate the biases. With the example of a sentence toxicity inference system, we illustrate how the specifications support the analysis of biases related to subjectivity. We highlight difficulties in instantiating these specifications and list future work for the crowdsourcing community to help the creation of appropriate evaluation datasets.

연구 동기 및 목표

• 주관적 기계 학습 작업, 특히 인간의 판단과 편향을 포함하는 표준화된 평가 벤치마크의 부족을 해결하기 위해.
• 주관성을 무시하는 전통적인 기계 학습 파이프라인들이 소수 의견을 배제함으로써 편향을 심화시킬 수 있음을 강조하기 위해.
• 주관성을 고려하고 모델 평가의 편향을 줄이기 위한 평가 데이터셋 설계 사양 세트를 제안하기 위해.
• 최신의 군중지능 기반 방법론이 주관적 평가 요구사항을 충족할 수 있는지 여부 또는 새로운 연구가 필요한지 탐구하기 위해.
• empirical 분석을 통해 레이블 집계 방법이 평가 지표의 신뢰성에 미치는 영향을 입증하기 위해.

제안 방법

• 주관성과 편향을 중심으로 하여 주관적 추론을 위한 평가 데이터셋 설계를 안내하기 위한 사양 목록을 체계화한 것이다.
• CrowdTruth 프레임워크를 적용하여 네 가지 다른 레이블링 세트업 간에 작업자 품질(WQS), 레이블 모호성(UQS), 이견(A DR)을 분석하였다.
• 고품질 및 저품질 작업자, 모호한 문장의 수동 평가를 통해 CrowdTruth가 정확한 레이블과 모호성을 식별하는 데 얼마나 정확한지 검증하였다.
• 수동 품질 점수와 CrowdTruth의 WQS 간의 평균 제곱오차(MSE)를 계산하여 레이블 정확도 예측 능력을 평가하였다.
• 레이블 이견을 기반으로 모호한 문장을 탐지할 수 있는 능력을 평가하기 위해 수신기 작동 특성 곡선 아래 면적(AUROC)을 계산하였다.
• 레이블의 세분성과 독성 카테고리의 수에 따라 다양하게 설정된 네 가지 레이블링 체계(세트업 1–4)를 비교하여 레이블 품질과 모호성에 미치는 영향을 평가하였다.

실험 결과

연구 질문

• RQ1 다양한 레이블링 체계가 주관적 작업에서 레이블 품질과 모호성 평가의 신뢰성에 어떤 영향을 미치는가?
• RQ2 다수결 투표 집계 방식이 개인의 주관성을 얼마나 은폐하고 모델 평가를 왜곡하는가?
• RQ3 CrowdTruth 프레임워크는 주관적 레이블링 작업에서 고품질 및 저품질 작업자와 모호한 문장을 정확히 식별할 수 있는가?
• RQ4 실제로 주관적 기계 학습 모델을 위한 평가 사양을 이행할 때의 주요 과제는 무엇인가?
• RQ5 군중지능 기반 방법론은 주관성을 더 잘 반영하고 평가 데이터셋의 편향을 줄이기 위해 어떻게 향상시킬 수 있는가?

주요 결과

• 이중 분류(독성 대비 비독성)를 사용한 세트업 1이 가장 낮은 MSE(0.0103)와 가장 높은 AUROC(0.9452)를 기록하여 수동 품질 평가와의 높은 일치도를 보였다.
• 더 세분화된 카테고리(예: '중립' 또는 다수의 독성 수준 포함)를 포함한 레이블링 체계는 최대 MSE(0.3133)와 최소 AUROC(0.4792)를 기록하여 신뢰도가 떨어지는 것으로 나타났다.
• CrowdTruth는 작업자 중 97.67%를 신뢰할 만한 것으로 식별하였으며(저품질 작업자 2.33% 제외), 이들 저품질 작업자 대부분은 스팮머로 확인되었다.
• 다수결 투표에 일관되게 동의하는 작업자는 전체의 10.5%에 불과했고, 51%는 약 15%의 비중에서 이견을 보였다. 이는 다수결 투표가 다수의 개인적 시각을 반영하지 못한다는 것을 시사한다.
• 15.5%의 작업자 중 4.5%는 다수결 투표와 최소 20%의 비중에서 이견을 보였으며, 이는 유효한 주관성이 널리 퍼져 있으며 다수결 투표 집계 방식으로는 포착되지 않는다는 것을 의미한다.
• 저품질 작업자를 제거한 후에도 이견 분포(ADR)의 분포가 안정적으로 유지되어, CrowdTruth가 진정된 주관성을 탐지하는 데 있어 강건함을 확인하였다.