[論文レビュー] X-TREPAN: a multi class regression and adapted extraction of comprehensible decision tree in artificial neural networks

Awudu Karim, Shangbo Zhou|arXiv (Cornell University)|Aug 30, 2015

Machine Learning and Data Classification参考文献 15被引用数 5

ひとこと要約

X-TREPANは、訓練済みの人工ニューラルネットワークから理解しやすい意思決定木を抽出するための新しい手法を提案する。TREPANアルゴリズムを拡張し、多クラス回帰タスクに対応する。単一テストTREPANおよびC4.5をニューラルネットワークの解釈に適応することで、分類精度を損なわずにモデルの解釈性を向上させた。実世界のデータセットを用いた実験的評価と統計的検定により検証された。

ABSTRACT

In this work, the TREPAN algorithm is enhanced and extended for extracting decision trees from neural networks. We empirically evaluated the performance of the algorithm on a set of databases from real world events. This benchmark enhancement was achieved by adapting Single-test TREPAN and C4.5 decision tree induction algorithms to analyze the datasets. The models are then compared with X-TREPAN for comprehensibility and classification accuracy. Furthermore, we validate the experimentations by applying statistical methods. Finally, the modified algorithm is extended to work with multi-class regression problems and the ability to comprehend generalized feed forward networks is achieved.

研究の動機と目的

• 訓練済みの人工ニューラルネットワークの解釈性を、理解しやすい意思決定木を抽出することで向上させること。
• TREPANアルゴリズムを多クラス回帰問題に拡張すること。
• モデルの説明可能性を向上させながらも、高い分類精度を維持すること。
• 統計的分析と既存の意思決定木およびニューラルネットワークモデルとの比較によるベンチマークを用いて、手法を検証すること。
• 適応された意思決定木抽出を用いて、一般化されたフィードフォワードニューラルネットワークの解釈を可能にすること。

提案手法

• 訓練済みのニューラルネットワークから意思決定木を抽出するために、単一テストTREPANアルゴリズムを適応すること。
• 意思決定木の理解性とパフォーマンスを向上させるために、C4.5意思決定木誘導技術を統合すること。
• 多クラス回帰タスクに対応するように抽出プロセスを変更すること。
• 実験結果とモデルの頑健性を検証するために統計的手法を適用すること。
• 実世界のデータセットを用いた実験的評価を通じて、X-TREPANをベースラインモデルと比較すること。
• ニューラルネットワークの活性化を解釈可能な意思決定ルールにマッピングするフレームワークを設計すること。

実験結果

リサーチクエスチョン

• RQ1 TREPANアルゴリズムは、人工ニューラルネットワークにおける多クラス回帰に効果的に拡張可能か？
• RQ2 実世界のデータセットにおいて、X-TREPANを用いて抽出された意思決定木の理解性は、ベースライン手法と比べてどうか？
• RQ3 提案手法における分類精度と解釈性のトレードオフはいかほどか？
• RQ4 X-TREPANは、元のニューラルネットワークの予測性能をどの程度保持しているか？
• RQ5 統計的検証手法は、抽出された意思決定木の信頼性をどの程度裏付けているか？

主な発見

• X-TREPANは、人工ニューラルネットワークにおける多クラス回帰問題へのTREPANアルゴリズムの拡張に成功した。
• 抽出された意思決定木は、高い分類精度を維持しながら、顕著にモデルの解釈性を向上させた。
• 実世界のデータセットを用いた実験的評価により、適応された単一テストTREPANおよびC4.5手法の有効性が確認された。
• 統計的検証により、実験結果の信頼性と頑健性が裏付けられた。
• 本手法により、構造的で人間が読める意思決定ルールを用いて、一般化されたフィードフォワードニューラルネットワークの理解が可能になった。
• 本手法は、予測性能とモデルの透明性の間でバランスの取れたトレードオフを示した。