[論文レビュー] Cognitive Model Priors for Predicting Human Decisions

David Bourgin, Joshua C. Peterson+3 more|arXiv (Cornell University)|May 22, 2019

Complex Systems and Decision Making被引用数 34

ひとこと要約

この論文は、認知モデルを用いた事前知識を、認知モデル（BEAST変種）からの合成データをニューラルネットワークに事前学習させ、実データでファインチューニングすることで提示し、不確実性下の人間の意思決定予測で最先端を達成し、large-scale choices13kデータセットを導入します。

ABSTRACT

Human decision-making underlies all economic behavior. For the past four decades, human decision-making under uncertainty has continued to be explained by theoretical models based on prospect theory, a framework that was awarded the Nobel Prize in Economic Sciences. However, theoretical models of this kind have developed slowly, and robust, high-precision predictive models of human decisions remain a challenge. While machine learning is a natural candidate for solving these problems, it is currently unclear to what extent it can improve predictions obtained by current theories. We argue that this is mainly due to data scarcity, since noisy human behavior requires massive sample sizes to be accurately captured by off-the-shelf machine learning methods. To solve this problem, what is needed are machine learning models with appropriate inductive biases for capturing human behavior, and larger datasets. We offer two contributions towards this end: first, we construct "cognitive model priors" by pretraining neural networks with synthetic data generated by cognitive models (i.e., theoretical models developed by cognitive psychologists). We find that fine-tuning these networks on small datasets of real human decisions results in unprecedented state-of-the-art improvements on two benchmark datasets. Second, we present the first large-scale dataset for human decision-making, containing over 240,000 human judgments across over 13,000 decision problems. This dataset reveals the circumstances where cognitive model priors are useful, and provides a new standard for benchmarking prediction of human decisions under uncertainty.

研究の動機と目的

• 不確実性下の人間の意思決定予測を、従来の理論を超えて改善する動機付けを行う。
• 神経ネットワークの訓練データとして合成データを用い、認知理論を翻訳した認知モデル priors を開発する。
• pretrained ネットワークを実データでファインチューニングして CPC15/CPC18 ベンチマークで予測を改善する。
• 大規模な公開データセット（ synth15、 synth18、choices13k）を作成し、人間の意思決定予測のベンチマークを行う。

提案手法

• 認知モデル BEAST15 および BEAST18 から合成問題セットを生成し、 priors としてニューラルネットワークを訓練する。
• 合成データに対して BEAST の予測を近似するようニューラルネットワークを訓練し、実データでファインチューニングする。
• Sparse MLP を SET 正則化とともに用い、 priors を取り入れるために非常に小さな学習率でファインチューニングする。
• CPC15 および CPC18 のベンチマークで予測を従来のMLモデルや理論ベースのベースラインと比較して評価する。
• choices13k を導入し、Mechanical Turk を用いて収集した大規模な人間のリスキー選択データセットである。

実験結果

リサーチクエスチョン

• RQ1 実データが乏しい場合に、認知モデルは機械学習をブートストラップする有効な priors を提供できるか。
• RQ2 合成認知モデルデータでの事前学習は、人間の意思決定データの予測精度と学習効率を向上させるか。
• RQ3 認知モデル priors は、理論のみ・純粋MLアプローチと比較して従来の CPC ベンチマークでどの程度性能を発揮するか。
• RQ4 新規の大規模な人間の意思決定データセット（choices13k）の価値と一般化性は、予測モデルのベンチマークにおいてどの程度か。
• RQ5 認知 priors によるトレーニングの実用的な利点（例：収束の早さ、データ効率）はあるか。

主な発見

モデル	MSE × 100
BEAST15	0.99
CPC15 Winner	0.88
MLP + Cognitive Prior (synth15)	0.53
Theoretical Models (baseline)
MLP + Cognitive Prior (synth18)	0.48
CPC18 Winner	0.57
BEAST18	0.70
Ensemble (BEAST15 + ML features)	0.70

• synth15 synth18 の認知 priors で事前学習したニューラルネットをファインチューニングすると、CPC15 および CPC18 のベンチマークで基準よりも大幅に MSE を削減した。
• CPC15: 認知 priors 強化モデルは MSE 0.53（×100）で、CPC15 勝者の 0.88、BEAST15 の 0.99 に対し改善。
• CPC18: 認知 priors 強化モデルは MSE 0.48（×100）で、CPC18 勝者の 0.57、BEAST18 の 0.70 に対し改善。
• CPC18 で synth18 で訓練された MLP は 0.48 を達成し、CPC18 勝者より 0.09（×100 単位）改善。
• choices13k データセット（13,006 問題で 242,879 判断）は、認知 priors が予測誤差を減らし、特に人間データが限られている場合の学習速度を高めることを示している。