[論文レビュー] A hybrid machine learning framework for analyzing human decision making through learning preferences

Mengzhuo Guo, Qingpeng Zhang+3 more|arXiv (Cornell University)|Jun 4, 2019

Multi-Criteria Decision Making参考文献 59被引用数 7

ひとこと要約

この論文では、多項式に基づく加法的価値モデルと多層パーセプトロンを統合したハイブリッド機械学習フレームワーク、NN-MCDAを提案する。このフレームワークは、人間の意思決定分析における予測性能と解釈可能性の両立を図る。個々の属性の限界価値関数を明示的にモデル化するとともに、深層学習を用いて複雑な非線形相互作用を捉えることで、現実世界のデータセットにおいて優れた性能を発揮するとともに、属性貢献の透明性ある解釈可能性を提供する。

ABSTRACT

Machine learning has recently been widely adopted to address the managerial decision making problems, in which the decision maker needs to be able to interpret the contributions of individual attributes in an explicit form. However, there is a trade-off between performance and interpretability. Full complexity models are non-traceable black-box, whereas classic interpretable models are usually simplified with lower accuracy. This trade-off limits the application of state-of-the-art machine learning models in management problems, which requires high prediction performance, as well as the understanding of individual attributes' contributions to the model outcome. Multiple criteria decision aiding (MCDA) is a family of analytic approaches to depicting the rationale of human decision. It is also limited by strong assumptions. To meet the decision maker's demand for more interpretable machine learning models, we propose a novel hybrid method, namely Neural Network-based Multiple Criteria Decision Aiding, which combines an additive value model and a fully-connected multilayer perceptron (MLP) to achieve good performance while capturing the explicit relationships between individual attributes and the prediction. NN-MCDA has a linear component to characterize such relationships through providing explicit marginal value functions, and a nonlinear component to capture the implicit high-order interactions between attributes and their complex nonlinear transformations. We demonstrate the effectiveness of NN-MCDA with extensive simulation studies and three real-world datasets. To the best of our knowledge, this research is the first to enhance the interpretability of machine learning models with MCDA techniques. The proposed framework also sheds light on how to use machine learning techniques to free MCDA from strong assumptions.

研究の動機と目的

• マネジメント意思決定における機械学習のモデル性能と解釈可能性のトレードオフを解消すること。
• ニューラルネットワークなどのブラックボックスモデルや、ロジスティック回帰などの過度に単純化された解釈可能なモデルが、複雑な属性相互作用を捉えることの限界を克服すること。
• マルチクリテリア意思決定支援（MCDA）技術と深層学習を統合し、予測精度を損なわずに解釈可能性を向上させること。
• 明示的な限界価値関数を通じて意思決定者が個々の属性貢献を理解・検証できることを可能にすること。
• 機械学習を活用して柔軟でデータ駆動のモデリングを実現することで、MCDAの強い仮定（例：好みの独立性）から解放すること。

提案手法

• 個々の属性の価値貢献をモデル化する多項式関数に基づく線形で加法的な成分を提案する。
• 全結合型の多層パーセプトロン（MLP）を用いた非線形成分を統合し、高次相互作用や複雑な非線形変換を捉える。
• 最終出力を重み付き和として定式化：グローバル効用 = α × 線形成分 + (1−α) × 非線形成分。これによりトレードオフの制御が可能となる。
• 線形成分に多項式関数を用いることで、各属性が結果に与える影響を明示的に表現し、解釈可能性を確保する。
• バックプロパゲーションを用いてエンドツーエンドでモデルを学習し、線形成分を加法的構造を維持する制約を課す。
• MLPで活性化関数（例：シグモイド）を適用することで、非線形表現学習を可能にしつつ、全体のハイブリッド構造を保つ。

実験結果

リサーチクエスチョン

• RQ1 解釈可能な加法的価値関数と深層ニューラルネットワークを組み合わせたハイブリッドモデルは、単独のモデルと比較して、性能と解釈可能性のトレードオフをより良く実現できるか？
• RQ2 多項式ベースの限界価値関数は、複雑な非線形属性貢献をどれほど正確に捉えつつ、解釈可能であるか？
• RQ3 MLP成分が捉える高次属性相互作用は、純粋に線形または加法的なモデルと比較して、予測精度をどの程度向上させるか？
• RQ4 データ駆動の学習により、好みの独立性などの強いMCDA仮定への依存を軽減できるか？
• RQ5 モデルの性能は、複雑さの異なるデータセットでどのように変化するか？また、高次元または非線形データにおいても解釈可能性を維持できるか？

主な発見

• NN-MCDAは、予測性能と解釈可能性のバランスを良好に達成しており、複雑なデータセットでは純粋な解釈可能なモデルを上回る性能を発揮する。
• 高次多項式が常に精度を向上させるわけではないため、加法的成分におけるモデル仕様の注意深い選定が不可欠であることが示された。
• 単純なデータセットでは、NN-MCDAは従来の解釈可能なモデルと同等の性能を示すが、複雑で非線形なデータでは顕著に優れている。
• このフレームワークは、限界価値関数を通じて個々の属性の詳細かつ明示的な貢献を的確に捉えており、分野の専門家がモデルの洞察を検証・改善できる。
• 非線形成分は高次相互作用を効果的にモデル化しており、人間の意思決定を含む現実世界のデータセットにおいて、性能の向上が実証された。
• 3つの現実世界データセットからの実証的結果により、NN-MCDAは高い予測精度を維持するとともに、属性影響の透明性とトレーサビリティのある説明を提供していることが確認された。