[論文レビュー] PiML Toolbox for Interpretable Machine Learning Model Development and Diagnostics

Agus Sudjianto, Aijun Zhang+3 more|arXiv (Cornell University)|May 7, 2023

Explainable Artificial Intelligence (XAI)被引用数 6

ひとこと要約

PiML は、監視付き学習における解釈可能機械学習モデルの開発と包括的な診断を統合するオープンソースの Python ツールボックスです。本ツールボックスは、本質的に解釈可能なモデル（例：GAM、XGB1/XGB2、EBM）とモデルに依存しない解釈性（例：SHAP、LIME、PFI）をサポートしており、公平性、耐性、信頼性のテストを含むモデル診断のための一套のツールを提供します。これにより、金融分野やモデルリスク管理における低コードおよびハイコード環境でのエンドツーエンドのワークフローが可能になります。

ABSTRACT

PiML (read $π$-ML, /`pai`em`el/) is an integrated and open-access Python toolbox for interpretable machine learning model development and model diagnostics. It is designed with machine learning workflows in both low-code and high-code modes, including data pipeline, model training and tuning, model interpretation and explanation, and model diagnostics and comparison. The toolbox supports a growing list of interpretable models (e.g. GAM, GAMI-Net, XGB1/XGB2) with inherent local and/or global interpretability. It also supports model-agnostic explainability tools (e.g. PFI, PDP, LIME, SHAP) and a powerful suite of model-agnostic diagnostics (e.g. weakness, reliability, robustness, resilience, fairness). Integration of PiML models and tests to existing MLOps platforms for quality assurance are enabled by flexible high-code APIs. Furthermore, PiML toolbox comes with a comprehensive user guide and hands-on examples, including the applications for model development and validation in banking. The project is available at https://github.com/SelfExplainML/PiML-Toolbox.

研究の動機と目的

• 銀行や金融分野などのハイリスク分野における解釈可能で監査可能な機械学習モデルの需要が高まっているのに対応する。
• モデル開発、解釈、説明、診断を1つのワークフローに統合する包括的なフレームワークを提供する。
• 本質的に解釈可能なモデルと後処理による説明技術の両方をサポートし、モデルの透明性を向上させる。
• モデルの内部構造を必要としない公平性、耐性、信頼性などの診断を可能にし、MLOpsにおける品質保証を支援する。
• 生産環境でのデプロイメントと検証を可能にする柔軟なハイコード API を通じて、既存の MLOps プラットフォームへの統合を促進する。

提案手法

• 低コードパネルによるインタラクティブな Jupyter ベースのワークフローと、ハイコード API を用いたプログラマティック制御・自動化を両方サポートする二重インターフェース設計を採用する。
• GLM、GAM、Tree、XGB1/XGB2、EBM、GAMI-Net、ReLU-DNN など、増加する本質的に解釈可能なモデルのセットをサポートしており、それぞれが組み込みのグローバルおよびローカル解釈性を備えている。
• 統一された API を提供する：`model_interpret()` はガラスボックスモデルの解釈に、`model_explain()` は後処理による説明（SHAP、LIME、PFI、PDP）に、`model_diagnose()` はモデルに依存しない診断に、`model_compare()` はマルチモデル評価に使用する。
• 予測インターフェースのみを介して、事前学習済みモデル（ブラックボックスモデルを含む）の登録を可能にし、完全な診断および説明機能を提供する。
• データ駆動型技術を用いたモデルに依存しない診断を実装する：弱い部分と過学習の特定に 1D/2D スライシング、信頼性の評価に スプリットコンフォーマル予測、耐性とレジリエンスのテストに パラメータ変更ベースのテストを用いる。
• 差異テスト、ビニング、しきい値設定を用いた公平性診断をサポートし、バイアス除去のオプションも提供する。

実験結果

リサーチクエスチョン

• RQ1 解釈可能な機械学習モデルは、包括的で使いやすいフレームワーク内でどのように体系的に開発・診断できるか？
• RQ2 公平性、耐性、信頼性などのモデルに依存しない診断技術は、ブラックボックスモデルおよび本質的に解釈可能なモデルの両方に対して、どの程度効果的に適用可能か？
• RQ3 1つのツールボックスが、バンクなどの規制対象分野におけるモデル開発、説明、検証のための低コードおよびハイコードワークフローを統合できるか？
• RQ4 弱い部分の特定やスプリットコンフォーマル予測といった診断技術は、モデルの信頼性と品質保証をどのように向上させるか？
• RQ5 解釈可能なモデルと診断機能を統合することで、金融機関におけるモデルリスク管理にどのような影響を与えるか？

主な発見

• PiML は、GAM、XGB1/XGB2、EBM、GAMI-Net など、多様な本質的に解釈可能なモデルをサポートしており、それぞれがネイティブなグローバルおよびローカル解釈性を備えている。
• 本ツールボックスは、モデルの内部構造を必要としないモデルに依存しない診断を可能にし、1D/2D スライシング や スプリットコンフォーマル予測などの技術を用いて、公平性、耐性、信頼性のテストを実施している。
• PiML のハイコード API は MLOps プラットフォームとネイティブに互換性があり、自動化された品質保証パイプラインへの統合が可能で、モデル検証に活用できる。
• 2022年5月4日発表以降、複数の金融機関で採用されており、モデルリスク管理分野における実世界での適用可能性が裏付けられている。
• `model_compare()` を用いたモデル比較により、グラフィカルダッシュボードを用いてパフォーマンスおよび診断指標を並列で評価でき、モデルのランク付けと選定が可能である。
• v0.6 以降、予測スコアに基づく擬似モデル診断を導入することで、モデルオブジェクトへの直接アクセスができないモデルの診断能力が拡張された。