[論文レビュー] Monitoring and explainability of models in production

Janis Klaise, Arnaud Van Looveren+3 more|arXiv (Cornell University)|Jul 13, 2020

Anomaly Detection Techniques and Applications参考文献 28被引用数 29

ひとこと要約

この論文は、パフォーマンスの追跡、データドリフト検出、外れ値の特定、およびモデルの解釈可能性を重視した、機械学習モデルの本番環境での監視と説明の包括的なフレームワークを提案している。オープンソースツールを活用して、モデルの内部構造を必要としないブラックボックス説明パターンを導入し、APIベースの照会によりオンデマンドで説明を提供する仕組みを実現している。

ABSTRACT

The machine learning lifecycle extends beyond the deployment stage. Monitoring deployed models is crucial for continued provision of high quality machine learning enabled services. Key areas include model performance and data monitoring, detecting outliers and data drift using statistical techniques, and providing explanations of historic predictions. We discuss the challenges to successful implementation of solutions in each of these areas with some recent examples of production ready solutions using open source tools.

研究の動機と目的

• モデルのデプロイ後における高品質な機械学習サービスの維持という課題に対処するため、堅牢な監視および説明可能性システムを実装すること。
• 本番環境におけるラベル不足の制限を克服するため、ラベルに依存しない指標、データ統計、およびモデルパフォーマンスの代理指標を用いること。
• 統計的手法を用いてデータドリフトおよび外れ値を検出することで、モデルパフォーマンスの低下を引き起こす可能性のある分布シフトを事前に同定すること。
• Anchor や LIME などのブラックボックス説明手法を用いて、オンデマンドで本番環境対応の説明を可能にすることで、機械学習システムにおける信頼性と透明性を向上させること。
• Seldon Core や KFServing といったオープンソースインフラストラクチャープラットフォームを活用して、監視および説明機能をスケーラブルな MLOps パイプラインに統合すること。

提案手法

• Seldon Core の /send-feedback API を使用して、標準的な機械学習指標およびカスタムビジネスKPIを含む、リアルタイムでのパフォーマンス指標を収集・計算する。
• Bolmier ら (2019) のようなライブラリを活用して、水平スケーリングされた展開においても一貫性を保つオンラインで状態保持型のメトリクス計算を実装する。
• 変化点検出やコルモゴロフ＝スミルノフ検定などの統計的手法を適用し、入力および出力分布におけるデータドリフトおよび外れ値を検出する。
• ライブモデルの予測APIに照会することで、モデルの内部構造を必要としない特徴レベルの説明を生成するブラックボックス説明モデル（例：Anchor, LIME, SHAP）をデプロイする。
• モデルサービング用の /predict エンドポイントと、別個の説明サービスが公開する /explain エンドポイントを持つ二重デプロイメントアーキテクチャを構築し、オンデマンドの説明リクエストをサポートする。
• Seldon Core および KFServing を活用して、モデルおよび説明コンponentの両方を自動スケーリングし、高負荷のリクエストに対しても本番環境の耐障害性を確保する。

実験結果

リサーチクエスチョン

• RQ1 真のラベルが遅延するか、入手不可能な状況下で、どのようにして本番環境におけるモデルパフォーマンスを効果的に監視できるか？
• RQ2 ライブの機械学習システムにおいて、データドリフトおよび外れ値を検出するのに最も効果的な統計的手法は何か？
• RQ3 モデルの内部構造にアクセスできない状況下で、ブラックボックス説明手法を本番環境の機械学習パイプラインにどのように統合できるか？
• RQ4 どのようなインfraストラクチャーパattersが、スケーラブルで信頼性が高く、低レイテンシの説明サービスを本番環境で実現できるか？
• RQ5 ラベルに依存しない指標および代理指標は、実世界のデプロイメントにおいて、実際にモデルパフォーマンスとどのように意味的に関連づけられるか？

主な発見

• 真のラベルが入手不可の状況下でも、特徴ごとのモーメントや予測統計といったラベルに依存しない指標が、モデルパフォーマンスの有効な代理指標として機能することが示された。
• コルモゴロフ＝スミルノフ検定や変化点検出といった統計的ドリフト検出手法は、入力および出力データにおける分布シフトを信頼性高く同定できる。
• Anchor や LIME などのブラックボックス説明手法は、APIベースのインタラクションパターンを用いることで、本番環境のモデルと併せて成功裏にデプロイ可能である。
• モデル推論と説明サービスを分離する二重デプロイメントパターンにより、自動スケーリングとワークロードの分離が可能となり、システムの信頼性が向上する。
• Seldon Core や KFServing といったオープンソースツールは、最小限のエンジニアリングオーバヘッドで監視および説明パイプラインのエンドツーエンドデプロイメントを支援する。
• 説明可能性を本番システムに統合することで、特に医療や金融などハイリスク分野において、モデルへの信頼性の向上とデバッグの支援が可能になる。