[논문 리뷰] Pairwise Choice Markov Chains

Stephen Ragain, Johan Ugander|arXiv (Cornell University)|2016. 03. 08.

Economic and Environmental Valuation참고 문헌 34인용 수 5

한 줄 요약

이 논문은 셋 중에서 선택 확률을 연속 시간 마르코프 체인의 정적 분포를 통해 정의하는, 민첩하고 추론이 용이한 이산 선택 모델인 쌍별 선택 마르코프 체인(PCMC) 모델을 소개한다. MNL 및 MMNL과 같은 전통적 모델과 달리 PCMC는 루체의 선택 공리, 확률적 전이성, 정규성 등을 가정하지 않지만, 더 약한 균일 확장 성질을 만족하여 예측 정확도가 크게 향상된다. 실제 데이터셋 SFwork 및 SFshop에서 MNL 대비 각각 36.2% 및 46.5%의 오차 감소를 기록한다.

ABSTRACT

As datasets capturing human choices grow in richness and scale -- particularly in online domains -- there is an increasing need for choice models that escape traditional choice-theoretic axioms such as regularity, stochastic transitivity, and Luce's choice axiom. In this work we introduce the Pairwise Choice Markov Chain (PCMC) model of discrete choice, an inferentially tractable model that does not assume any of the above axioms while still satisfying the foundational axiom of uniform expansion, a considerably weaker assumption than Luce's choice axiom. We show that the PCMC model significantly outperforms the Multinomial Logit (MNL) model in prediction tasks on both synthetic and empirical datasets known to exhibit violations of Luce's axiom. Our analysis also synthesizes several recent observations connecting the Multinomial Logit model and Markov chains; the PCMC model retains the Multinomial Logit model as a special case.

연구 동기 및 목표

• 실제 데이터에서 자주 위반되는 제약이 강한 공리들인 루체의 선택 공리, 확률적 전이성, 정규성을 피하면서도 유연하고 추론이 용이한 이산 선택 모델을 개발하는 것.
• 실제 데이터셋에서 관찰되는 복잡하고 비정규적인 선택 행동을 민감하게 모델링하면서도 추론의 용이성을 유지하는 것.
• 기존의 공리를 가정하지 않음에도 불구하고 PCMC 모델이 균일 확장 성질—기초적인 구조적 제약—을 만족함을 보여주는 것.
• PCMC 모델이 루체의 공리 위반이 알려진 합성 및 실제 데이터셋에서 MNL 및 혼합 MNL(MMNL)보다 뛰어난 예측 성능을 보임을 보여주는 것.
• 마르코프 체인과 이산 선택 모델 간의 체계적인 연결을 수립하고, MNL 모델을 PCMC의 특수한 경우로 일반화하는 것.

제안 방법

• PCMC 모델은 각 선택 집합 S에 대해 연속 시간 마르코프 체인(CTMC)의 정적 분포를 선택 확률로 정의한다. 전이율 행렬 Q_S는 모든 대안 쌍에 대해 인덱싱된 전역 전이율 행렬 Q에서 유도된다.
• Q 내의 전이율 q_ij는 대안 i와 j 사이의 쌍별 선호 강도를 나타내며, q_ij > 0은 i가 j보다 선호됨을 의미한다.
• 선택 집합 S 내에서 대안 i의 선택 확률 p_iS는 Q_S로 정의된 CTMC에서 i의 정적 확률질량으로 계산된다.
• 모델은 Q의 비대각선 원소로 매개변수화되어 있으며, 기울기 기반 최적화를 통해 최대우도 추정이 가능하다.
• 이 모델은 MNL 모델을 일반화한다: Q가 BTL 쌍별 확률에서 유도될 경우, PCMC는 MNL로 축소된다.
• PCMC 모델은 수 contracibility—선택 이론의 사고 실험에서 유도된 새로운 구조적 성질—을 만족하며, 이는 균일 확장성을 암시하고 이론적 기반을 제공한다.

실험 결과

연구 질문

• RQ1 이산 선택 모델이 루체의 선택 공리, 확률적 전이성, 정규성과 같은 제약이 강한 공리를 피하면서도 추론이 용이하도록 충분히 민감할 수 있는가?
• RQ2 PCMC 모델은 MNL 및 추론이 어려운 모델에서만 유지된 바 있는 균일 확장 성질을 만족하는가?
• RQ3 루체의 공리 위반이 알려진 데이터셋에서 PCMC 모델이 MNL 및 MMNL 대비 예측 정확도를 얼마나 향상시키는가?
• RQ4 PCMC 모델과 무작위 효용 모델(RUMs) 간의 관계는 무엇이며, Q에 어떤 조건이 성립하면 PCMC가 RUM이 되는가?
• RQ5 비전이적인 쌍별 선택 모델(예: Blade-Chest)을 사용하여 PCMC 모델을 효과적으로 매개변수화할 수 있는가? 이 경우 파라미터 수를 줄이면서도 예측 능력을 유지할 수 있는가?

주요 결과

• SFwork 데이터셋에서 학습 데이터의 75%를 사용할 경우, PCMC 모델은 MNL 대비 36.2% 오차 감소, MMNL 대비 24.4% 오차 감소를 기록한다.
• SFshop 데이터셋에서는 MNL 대비 46.5% 오차 감소, MMNL 대비 31.7% 오차 감소를 기록한다.
• 모델은 비전이적 선택 패턴을 성공적으로 포착한다: SFwork는 최대 8개의 순환 삼중항 중 2개를 보이며, SFshop는 20개 중 6개를 보여 비정상적인 확률적 전이성 위반을 시사한다.
• PCMC 모델은 루체의 선택 공리나 정규성을 가정하지 않음에도 불구하고 균일 확장 성질을 만족한다. 이는 기초적인 구조적 제약이다.
• PCMC 모델은 MNL 모델을 일반화한다: 쌍별 비율이 BTL 모델에서 유도될 경우, CTMC의 정적 분포는 MNL 선택 확률을 복원한다.
• 모델은 수 contracibility—선택 이론의 사고 실험에서 유도된 새로운 성질—을 만족하며, 이는 균일 확장성을 암시하고 구조적 안정성에 대한 이론적 정당성을 제공한다.