[논문 리뷰] Cognitive Model Priors for Predicting Human Decisions

David Bourgin, Joshua C. Peterson외 3명|arXiv (Cornell University)|2019. 05. 22.

Complex Systems and Decision Making인용 수 34

한 줄 요약

요약: 이 논문은 합성 데이터에서 인지 모델 BEAST 변형들로 신경망을 사전 학습하고 실제 데이터로 미세 조정하여 불확실성 하에서의 인간 선택 예측에서 최첨단 성능을 달성하고 대규모 choices13k 데이터셋을 도입한다.

ABSTRACT

Human decision-making underlies all economic behavior. For the past four decades, human decision-making under uncertainty has continued to be explained by theoretical models based on prospect theory, a framework that was awarded the Nobel Prize in Economic Sciences. However, theoretical models of this kind have developed slowly, and robust, high-precision predictive models of human decisions remain a challenge. While machine learning is a natural candidate for solving these problems, it is currently unclear to what extent it can improve predictions obtained by current theories. We argue that this is mainly due to data scarcity, since noisy human behavior requires massive sample sizes to be accurately captured by off-the-shelf machine learning methods. To solve this problem, what is needed are machine learning models with appropriate inductive biases for capturing human behavior, and larger datasets. We offer two contributions towards this end: first, we construct "cognitive model priors" by pretraining neural networks with synthetic data generated by cognitive models (i.e., theoretical models developed by cognitive psychologists). We find that fine-tuning these networks on small datasets of real human decisions results in unprecedented state-of-the-art improvements on two benchmark datasets. Second, we present the first large-scale dataset for human decision-making, containing over 240,000 human judgments across over 13,000 decision problems. This dataset reveals the circumstances where cognitive model priors are useful, and provides a new standard for benchmarking prediction of human decisions under uncertainty.

연구 동기 및 목표

• 불확실성 하에서 인간 의사결정의 예측을 전통 이론을 넘어 개선하려는 목표를 제시한다.
• 인지 모델 Priors를 개발하여 인지 이론을 합성 학습 데이터로 변환한다.
• 사전 학습된 네트워크를 실제 데이터로 미세 조정하여 CPC15/CPC18 벤치마크에서 예측을 개선되었는지 입증한다.
• 대규모 공개 데이터세트(synth15, synth18, choices13k)를 만들어 인간 의사결정 예측 벤치마크를 만든다.

제안 방법

• 인지 모델 BEAST15와 BEAST18로부터 합성 문제 세트를 생성하여 신경망을 Priors로 학습시킨다.
• 합성 데이터에서 BEAST 예측을 근사하도록 신경망을 학습시키고 실제 인간 의사결정 데이터로 미세 조정한다.
• SET 정규화와 매우 작은 학습률로 Priors를 반영하기 위해 Sparse MLP를 사용한다.
• 전통적 ML 모델 및 이론 기반 기준과 비교하여 CPC15 및 CPC18 벤치마크에서 예측을 평가한다.
• 대규모 인간 위험 선택 데이터세트인 choices13k를 Mechanical Turk를 통해 수집한다.

실험 결과

연구 질문

• RQ1 인지 모델이 실제 데이터가 희귀할 때 머신러닝을 부트스트래핑하는 효과적 Priors를 제공할 수 있는가?
• RQ2 합성 인지-모델 데이터에 대한 사전 학습이 인간 의사결정 데이터에 대한 예측 정확도와 학습 효율성을 향상시키는가?
• RQ3 인지-모델 Priors는 이론만 사용한 접근법 및 순수 ML 접근법에 비해 잘 알려진 CPC 벤치마크에서 어떻게 성능을 발휘하는가?
• RQ4 새로운 대규모 인간 의사결정 데이터셋(choice13k의 가치와 일반화 능력은 예측 모델 벤치마킹에 어떤 영향을 미치는가?
• RQ5 인지 Priors가 학습 속도 증가나 데이터 효율성 등 실용적 이점을 제공하는가?

주요 결과

모델	MSE × 100
BEAST15	0.99
CPC15 Winner	0.88
MLP + Cognitive Prior (synth15)	0.53
Theoretical Models (baseline)
MLP + Cognitive Prior (synth18)	0.48
CPC18 Winner	0.57
BEAST18	0.70
Ensemble (BEAST15 + ML features)	0.70

• synth15, synth18 인지 Priors로 사전 학습된 신경망을 미세 조정하면 CPC15 및 CPC18 벤치마크에서 기저 모델 대비 상당한 MSE 감소를 보인다.
• CPC15: 인지 Priors가 강화된 모델은 MSE 0.53(×100)로 CPC15 우승자 0.88 및 BEAST15 0.99를 상회한다.
• CPC18: 인지 Priors가 강화된 모델은 MSE 0.48(×100)로 CPC18 우승자 0.57 및 BEAST18 0.70를 상회한다.
• CPC18에서 synth18로 학습된 MLP는 미세 조정을 통해 0.48에 도달하여 CPC18 우승자보다 0.09(×100 단위) 개선된다.
• choices13k 데이터셋(13,006 문제에 걸친 242,879 판단)은 인지 Priors가 예측 오차를 줄이고 학습 속도를 높이며, 특히 인간 데이터가 제한적일 때 더 큰 효과를 보임을 시사한다.