[論文レビュー] Automatically detecting data drift in machine learning classifiers

Samuel Ackerman, Orna Raz+2 more|arXiv (Cornell University)|Nov 10, 2021

Anomaly Detection Techniques and Applications参考文献 12被引用数 7

ひとこと要約

本論文は、入力データや正解ラベルを必要とせず、モデルの予測ラベルと信頼度スコアのみを用いて、機械学習分類器におけるデータドリフトを自動的に検出する、画期的なラベルフリー手法を提案する。信頼度スコアに対して逐次的変化点検出を適用することで、非逐次的手法に比べてより早期かつ誤検出が少ない形で性能劣化を同定でき、正解ラベルや入力データを必要とせず、3つの多様なデータセットにおいて有効性を示した。

ABSTRACT

Classifiers and other statistics-based machine learning (ML) techniques generalize, or learn, based on various statistical properties of the training data. The assumption underlying statistical ML resulting in theoretical or empirical performance guarantees is that the distribution of the training data is representative of the production data distribution. This assumption often breaks; for instance, statistical distributions of the data may change. We term changes that affect ML performance `data drift' or `drift'. Many classification techniques compute a measure of confidence in their results. This measure might not reflect the actual ML performance. A famous example is the Panda picture that is correctly classified as such with a confidence of about 60\%, but when noise is added it is incorrectly classified as a Gibbon with a confidence of above 99\%. However, the work we report on here suggests that a classifier's measure of confidence can be used for the purpose of detecting data drift. We propose an approach based solely on classifier suggested labels and its confidence in them, for alerting on data distribution or feature space changes that are likely to cause data drift. Our approach identities degradation in model performance and does not require labeling of data in production which is often lacking or delayed. Our experiments with three different data sets and classifiers demonstrate the effectiveness of this approach in detecting data drift. This is especially encouraging as the classification itself may or may not be correct and no model input data is required. We further explore the statistical approach of sequential change-point tests to automatically determine the amount of data needed in order to identify drift while controlling the false positive rate (Type-1 error).

研究の動機と目的

• 正解ラベルが利用可能でないか、遅延する場合に多い、実稼働MLシステムにおけるデータドリフト検出という重要な課題に取り組むこと。
• 入力データや正解ラベルを一切必要とせず、モデルの出力のみを用いてドリフトを検出可能な「監査者」の新クラスを定義すること。
• データの意味的性質を変更せずに、データドリフトを制御的にシミュレートするフレームワークを構築すること。
• 逐次的変化点解析を用いて、ドリフト検出における誤検出率（I型エラー）を制御しつつ、性能劣化の感度を維持すること。
• 信頼度スコアは正しさの指標としては信頼性が低いものの、分布シフトの検出に有効なシグナルとして機能できることを示すこと。

提案手法

• 分類器の信頼度スコアの分布の時間的推移を監視することで、データドリフトを示す顕著なシフトを検出する。
• 信頼度スコアに逐次的変化点検出法（CPM）を適用し、ドリフト発生の時期を統計的に厳密に同定する。
• 生産環境に類似したデータの特徴量分布を変更することで、意味的意味を損なわず、制御された形でドリフトをシミュレートする。
• 複数の分類器とデータセットを用いて、検出遅延や誤検出率といった指標で監査者の性能を評価する。
• 逐次的仮説検定により、I型エラー（誤検出率）を統計的に制御し、リアルタイム監視における信頼性を確保する。
• 入力特徴量や正解ラベルへのアクセスを一切不要とせず、実世界のビジネス応用に適した手法を実現する。

実験結果

リサーチクエスチョン

• RQ1 入力データやラベルにアクセスできない状況下でも、分類器の信頼度スコアは、データドリフト検出に信頼できるシグナルとして機能するか？
• RQ2 リアルタイム監視において、誤検出率を制御しつつ、逐次的変化点解析がどの程度効果的にドリフトを検出できるか？
• RQ3 データの意味的性質を保持しつつ、ドリフト検出手法の系統的評価が可能な形でドリフトをシミュレートできるか？
• RQ4 非逐次的手法に比べて、信頼度監査者（confidence auditor）は検出速度と正確性においてどのように優れているか？
• RQ5 例えば特徴量分布のシフトといった、異なる種類のデータドリフトが、信頼度ベースの監査者の性能に与える影響は何か？

主な発見

• 分類器の信頼度監査者（confidence auditor）は、3つの多様なデータセットと複数の分類器モデルにおいて、モデルの予測が必ずしも正しくない状況下でも、ドリフトを成功裏に検出できた。
• 逐次的変化点検出（CPM）により、非逐次的T検定手法に比べ、検出がより早く、誤検出率も顕著に低減された。
• CPMベースのアプローチは、真の変化点（約サンプル50）から数サンプル以内にドリフトを検出でき、検出タイミングの分布が変化点の直後に集中していた。
• 非逐次的手法は、真の変化点より前に誤検出を発生させる（「pairs」）か、ドリフトを遅く検出する（「splits」）傾向にあり、逐次的分析の優位性が明確に示された。
• ラベルデータや入力特徴量を一切必要としないため、ラベルなしの実稼働環境においても信頼性の高いドリフト検出が可能である。
• 本フレームワークは、モデルの正しさを示す指標としては不適切であるものの、信頼度スコアが分布シフト検出に強力なシグナルとして機能できることを示した。