[論文レビュー] Learning Hybrid Interpretable Models: Theory, Taxonomy, and Methods

Julien Ferry, Gabriel Laberge+1 more|arXiv (Cornell University)|Mar 8, 2023

Explainable Artificial Intelligence (XAI)参考文献 26被引用数 5

ひとこと要約

この論文は、ゲーティング機構を介して最適なルールリスト（解釈可能コンponent）とブラックボックスモデル（例：ランダムフォレスト）を組み合わせるハイブリッド解釈可能なモデルを学習する新規手法HybridCORELSを提案する。解釈可能コンponentを事前に訓練する（Pre-Black-Boxパラダイム）ことで、スタンドアロンのブラックボックスよりも一般化性能が向上するとともに、透明性を明確に制御可能となる。これは、性能が純粋なブラックボックスおよび完全に解釈可能なモデルを上回る「最適な領域（sweet spot）」を実現していることを示している。

ABSTRACT

A hybrid model involves the cooperation of an interpretable model and a complex black box. At inference, any input of the hybrid model is assigned to either its interpretable or complex component based on a gating mechanism. The advantages of such models over classical ones are two-fold: 1) They grant users precise control over the level of transparency of the system and 2) They can potentially perform better than a standalone black box since redirecting some of the inputs to an interpretable model implicitly acts as regularization. Still, despite their high potential, hybrid models remain under-studied in the interpretability/explainability literature. In this paper, we remedy this fact by presenting a thorough investigation of such models from three perspectives: Theory, Taxonomy, and Methods. First, we explore the theory behind the generalization of hybrid models from the Probably-Approximately-Correct (PAC) perspective. A consequence of our PAC guarantee is the existence of a sweet spot for the optimal transparency of the system. When such a sweet spot is attained, a hybrid model can potentially perform better than a standalone black box. Secondly, we provide a general taxonomy for the different ways of training hybrid models: the Post-Black-Box and Pre-Black-Box paradigms. These approaches differ in the order in which the interpretable and complex components are trained. We show where the state-of-the-art hybrid models Hybrid-Rule-Set and Companion-Rule-List fall in this taxonomy. Thirdly, we implement the two paradigms in a single method: HybridCORELS, which extends the CORELS algorithm to hybrid modeling. By leveraging CORELS, HybridCORELS provides a certificate of optimality of its interpretable component and precise control over transparency. We finally show empirically that HybridCORELS is competitive with existing hybrid models, and performs just as well as a standalone black box (or even better) while being partly transparent.

研究の動機と目的

• 機械学習における精度と透明性のトレードオフを解消するため、解釈可能コンponentとブラックボックスコンponentを組み合わせたハイブリッドモデルを提案すること。
• PAC学習フレームワークを用いて、ハイブリッドモデルの一般化性能の利点を理論的裏付けすること。
• ハイブリッドモデリングにおけるPost-Black-BoxおよびPre-Black-Boxトレーニングパラダイムを区別する分類法を提示すること。
• CORELSを拡張し、ハイブリッド環境下で最適かつ証明可能なルールリスト学習を可能にするHybridCORELSという手法を開発すること。
• ハイブリッドモデルがスタンドアロンのブラックボックスモデルを上回りながらも高い解釈可能性を維持できることを実験的に検証すること。

提案手法

• Pre-Black-Boxパラダイムでは、解釈可能コンponent（例：ルールリスト）を事前に訓練し、その予測結果をもとにブラックボックスモデルの学習をガイドする。
• 解釈可能コンponentがグローバルに最適かつ証明可能であることを保証するため、最適なルールリスト学習アルゴリズムであるCORELSを活用する。
• 推論段階でゲーティング機構が、解釈可能モデルの信頼度やルールカバレッジに基づき、各入力を解釈可能モデルまたはブラックボックスモデルにルーティングする。
• 透明性は、解釈可能コンponentにルーティングされる入力の割合として定義され、モデルの解釈可能性に対する直接的な制御が可能になる。
• エンドツーエンドの最適化が可能であるが、完全なエンドツーエンドの証明は未解決の課題のまま残っている。
• 理論的分析により、PACスタイルの一般化バウンドを導出し、透明性の「最適な領域（sweet spot）」が一般化誤差を最小化することを予測している。

実験結果

リサーチクエスチョン

• RQ1 解釈可能コンponentとブラックボックスコンponentを組み合わせたハイブリッドモデルは、スタンドアロンのブラックボックスモデルよりも一般化性能に優れるか？
• RQ2 精度と透明性のトレードオフは、神話的と見なされるのではなく、定量的に測定・最適化可能か？
• RQ3 ハイブリッドモデリングにおけるPost-Black-BoxとPre-Black-Boxトレーニングパラダイムの主な違いは何か？
• RQ4 最適かつ証明可能なルールリストは、ハイブリッドモデルに効果的に統合可能で、解釈可能性と性能の両方を向上させられるか？
• RQ5 解釈可能モデルを事前に訓練する（Pre-Black-Box）ことで、ブラックボックスモデルを事前に訓練する（Post-Black-Box）場合に比べ、一般化性能が向上するか？

主な発見

• COMPASデータセットにおいて、HybridCORELS Preは42.7%の透明性を維持しながら68.1%のテスト精度を達成し、スタンドアロンのブラックボックスモデルを上回った。
• 一般化誤差が最小化される透明性の「最適な領域（sweet spot）」が発見され、その領域ではスタンドアロンのブラックボックスモデルを上回る性能を示した。
• ACS雇用およびUCI Adult Incomeデータセットでは、HybridCORELSはブラックボックスモデルと同等の性能を維持しながら、最大70%の透明性を達成した。
• ブラックボックスモデル単体よりもハイブリッドモデルの方が一般化性能に優れていることから、単純な入力を解釈可能コンponentにルーティングすることで正則化効果が生じている可能性がある。
• 複数のデータセットで実験的に確認されたように、Pre-Black-BoxパラダイムはPost-Black-Boxパラダイムよりも一般化性能に優れている。
• HybridCORELSが学習したルールリストは証明可能であり、多数の入力についてモデル動作の形式的検証が可能となり、残りの部分についての専門家レビューの必要性が低減された。