[論文レビュー] Hybrid Predictive Model: When an Interpretable Model Collaborates with a Black-box Model

Tong Wang, Qihang Lin|arXiv (Cornell University)|May 10, 2019

Explainable Artificial Intelligence (XAI)参考文献 60被引用数 11

ひとこと要約

本稿では、解釈可能性モデル（例：関連ルールや線形モデル）とブラックボックスモデルを統合することで、高い予測性能を維持しながらも透明性を向上させるハイブリッド予測モデル（HPM）を提案する。フレームワークは、ブラックボックスモデルがほぼ同等の性能を発揮するデータサブセットにおいて、ブラックボックスモデルを解釈可能な代替モデルに効果的に置き換える。精度、解釈可能性、モデルの透明性のトレードオフを、体系的な目的関数によって最適化し、効率的な性能-透明性フロンティアを実現する。

ABSTRACT

Interpretable machine learning has become a strong competitor for traditional black-box models. However, the possible loss of the predictive performance for gaining interpretability is often inevitable, putting practitioners in a dilemma of choosing between high accuracy (black-box models) and interpretability (interpretable models). In this work, we propose a novel framework for building a Hybrid Predictive Model (HPM) that integrates an interpretable model with any black-box model to combine their strengths. The interpretable model substitutes the black-box model on a subset of data where the black-box is overkill or nearly overkill, gaining transparency at no or low cost of the predictive accuracy. We design a principled objective function that considers predictive accuracy, model interpretability, and model transparency (defined as the percentage of data processed by the interpretable substitute.) Under this framework, we propose two hybrid models, one substituting with association rules and the other with linear models, and we design customized training algorithms for both models. We test the hybrid models on structured data and text data where interpretable models collaborate with various state-of-the-art black-box models. Results show that hybrid models obtain an efficient trade-off between transparency and predictive performance, characterized by our proposed efficient frontiers.

研究の動機と目的

• 機械学習モデルにおける予測精度と解釈可能性のトレードオフを解決すること。
• 後処理による説明手法の限界を克服すること。後処理による説明は、近似的で一貫性に欠ける。
• ブラックボックスモデルが過剰であるとされるデータサブセットにおいて、解釈可能なモデルに置き換えるフレームワークを開発すること。
• 予測性能、解釈可能性、モデルの透明性（解釈可能モデルが処理するデータの割合）を統合的に最適化する目的関数を設計すること。
• 最先端のブラックボックスモデルを用いて、構造化データおよびテキストデータにおいてハイブリッドアプローチの有効性を示すこと。

提案手法

• 入力が最初に解釈可能なモデルにルーティングされ、必要に応じてのみブラックボックスモデルにフォールバックする、ハイブリッド予測モデル（HPM）の一般フレームワークを提案する。
• 予測損失、モデルの複雑さに基づく解釈可能性ペナルティ、および解釈可能モデルのサポート比としての透明性を統合した体系的な目的関数を定義する。
• 関連ルールと線形モデルを解釈可能な代替モデルとして用いる2つのインスタンス化のためのカスタマイズされたトレーニングアルゴリズムを設計する。
• 最適性条件から導出されたしきい値ベースのルール選択メカニズムを採用：正のルール集合から、サポートが ≤ Nα₁ であるルールを除外し、負のルール集合から、サポートが ≤ Nα₁/(1−α₂) であるルールを除外する。
• 二段階の意思決定プロセスを採用：解釈可能モデルが十分な信頼性で予測できる場合はそれを使用し、そうでない場合はブラックボックスモデルを起動する。
• 最適性と収束を保証するため、ルールのサポートとモデルの複雑さに関する理論的境界を導出する。

実験結果

リサーチクエスチョン

• RQ1 ブラックボックスモデルが過剰であるとされるデータサブセットにおいて、解釈可能なモデルを代替として使用しても、予測性能に顕著な損失が生じないか？
• RQ2 ハイブリッドモデルにおける予測精度、解釈可能性、透明性の最適なトレードオフは何か？
• RQ3 精度、解釈可能性、透明性を統合的に最適化する体系的な目的関数をどのように設計できるか？
• RQ4 解釈可能なルールをモデルから安全に削除できる理論的条件は何か？
• RQ5 ハイブリッドモデルは、単独の解釈可能モデルやブラックボックスモデルよりも優れた性能-透明性トレードオフを達成できるか？

主な発見

• ハイブリッドモデルは、ブラックボックスモデルと同等の予測性能を維持しながら、最大70％のデータを解釈可能なモデルで処理することで、透明性を顕著に向上させた。
• フレームワークは、予測精度と透明性の間で有利なトレードオフを示す効率的なフロンティアを生成し、純粋な解釈可能モデルやブラックボックスモデルを上回る性能を示した。
• 理論的分析により、サポートが ≤ Nα₁ であるルールは非効率的であり、安全に除外可能であることが確認され、モデルの効率性と解釈可能性が保証された。
• 関連ルールと線形モデルを用いたカスタマイズされたトレーニングアルゴリズムは、解釈可能モデルがブラックボックスモデルに効果的に置き換え可能なデータサブスペースを的確に同定できた。
• 構造化データおよびテキストデータにおける実験的結果から、ハイブリッドモデルは高い精度を維持しながら、入力空間の大部分で解釈可能性を顕著に向上させた。
• 後処理による説明手法に依存するのを減らし、それらが忠実度と一貫性の問題を抱えることから、解釈可能性を意思決定プロセスに直接埋め込むことで、その問題を回避した。