[論文レビュー] Data-driven preference learning methods for value-driven multiple criteria sorting with interacting criteria

Jiapeng Liu, Miłosz Kadziński+2 more|arXiv (Cornell University)|May 21, 2019

Multi-Criteria Decision Making被引用数 6

ひとこと要約

本稿では、相互作用する基準を伴う複数基準ソーティングのためのデータ駆動型好み学習手法を提案する。この手法は、交互作用成分を組み込んだ加法的区分線形価値関数に基づく凸二次計画モデルを用いる。正則化を組み込むことで過学習を防ぎ、大規模データセットの効率的処理を可能にし、予測性能と解釈可能性を両立する。UTADISおよびコーシュ・インテグラルベースのモデルと比較して、精度と頑健性の両面で優れている。

ABSTRACT

The learning of predictive models for data-driven decision support has been a prevalent topic in many fields. However, construction of models that would capture interactions among input variables is a challenging task. In this paper, we present a new preference learning approach for multiple criteria sorting with potentially interacting criteria. It employs an additive piecewise-linear value function as the basic preference model, which is augmented with components for handling the interactions. To construct such a model from a given set of assignment examples concerning reference alternatives, we develop a convex quadratic programming model. Since its complexity does not depend on the number of training samples, the proposed approach is capable for dealing with data-intensive tasks. To improve the generalization of the constructed model on new instances and to overcome the problem of over-fitting, we employ the regularization techniques. We also propose a few novel methods for classifying non-reference alternatives in order to enhance the applicability of our approach to different datasets. The practical usefulness of the proposed method is demonstrated on a problem of parametric evaluation of research units, whereas its predictive performance is studied on several monotone learning datasets. The experimental results indicate that our approach compares favourably with the classical UTADIS method and the Choquet integral-based sorting model.

研究の動機と目的

• 基準間の相互作用を捉えることなく、アクティブな意思決定者（DM）の関与を必要としないデータ駆動型好み学習アプローチの開発。
• 解釈可能性を保ちつつ、相互作用モデリングにより予測性能を向上させるため、加法的区分線形価値関数を用いる。
• 正則化技術を好み学習プロセスに統合することで一般化性能を向上させ、過学習を回避する。
• トレーニングサンプル数に依存しない複雑さを持つ最適化モデルを定式化することで、大規模データセットの効率的処理を可能にする。
• 実世界のパrametric評価（研究ユニットの評価）と単調学習データセットにおけるベンチマークを通じて、実用的応用の有効性を示す。

提案手法

• コアな好みモデルは、好み独立性の下での加法的区分線形価値関数であり、基準間の正のおよび負の相互作用をモデル化するための成分を拡張したものである。
• 参照代替案の割り当て例から好みモデルを学ぶために、凸二次計画モデルを定式化し、グローバル最適性とスケーラビリティを保証する。
• 一般化性能の向上と新しいインスタンスにおける過学習の低減を図るため、最適化目的関数に正則化項を組み込む。
• モデルの複雑さはトレーニングサンプル数に依存しないため、データ集約的応用の効率的処理が可能である。
• 相互作用モデリングのバリエーションや非参照代替案のソーティング戦略を選択可能な柔軟性を持つフレームワークを提案する。
• 基準に対する単調性制約をサポートし、任意の基準での性能向上がより良いクラス割り当てをもたらすことを保証する。

実験結果

リサーチクエスチョン

• RQ1 データ駆動型好み学習手法は、複数基準ソーティングにおいて基準間の相互作用を効果的にモデル化しつつ、解釈可能性を維持できるか？
• RQ2 正則化は、大規模ソーティングタスクにおける好みモデルの一般化性能をどのように向上させるか？
• RQ3 UTADISおよびコーシュ・インテグラルベースのモデルといった古典的手法と比較して、提案手法は予測精度と頑健性の両面でどの程度優れているか？
• RQ4 サンプル数に依存しない複雑さのおかげで、提案モデルはデータ集約的ソーティング問題を効率的に処理できるか？
• RQ5 区分線形マージナル価値関数と相互作用成分の統合は、解釈可能性を損なわず、フィッティング能力をどのように向上させるか？

主な発見

• 提案手法は、複数の単調学習データセットにおいてUTADISおよびコーシュ・インテグラルベースのモデルを上回る優れた予測性能を達成し、精度と頑健性の両面で一貫した改善を示した。
• 効果的な正則化のおかげで、新しいインスタンスに対する一般化性能が強く、性能スケールを異なるサブインターバルに分割した場合でも過学習が低減された。
• 最適化モデルの複雑さはトレーニングサンプル数に依存しないため、実験による計算効率の確認を通じて、大規模データセットの効率的処理が可能であることが裏付けられた。
• 実世界の研究ユニットのパラメトリック評価において、解釈可能で直感的に説明可能なクラス割り当てが得られ、実用的応用の有効性が確認された。
• 相互作用成分の導入により、基準間の複雑な依存関係が存在する状況において、モデルのフィッティング能力と予測性能が顕著に向上した。
• ESL、MMG、ERA、LEV、CEVの全テストデータセットにおいて、提案手法はベースラインモデルを上回り、予測誤差が低く、安定性が高かった。