[논문 리뷰] Choice modelling in the age of machine learning

Sander van Cranenburgh, S. Wang외 3명|arXiv (Cornell University)|2021. 01. 01.

Forecasting Techniques and Applications참고 문헌 112인용 수 9

한 줄 요약

이 논문은 이론 기반 및 데이터 기반 패러다임을 비교함으로써 기계학습을 선택 모델링에 더 깊이 통합할 것을 주장하며, 상호보완적 관계를 규명하고, 기계학습이 모델의 유연성과 데이터 처리 능력을 향상시켜 특히 텍스트 및 이미지 입력 처리에 유리한 하이브리드 미래를 제안한다. 이는 전통적인 모델의 해석 가능성과 이론적 기반을 유지한다.

ABSTRACT

Since its inception, the choice modelling field has been dominated by theory-driven models. The recent emergence and growing popularity of machine learning models offer an alternative data-driven approach. Machine learning models, techniques and practices could help overcome problems and limitations of the current theory-driven modelling paradigm, e.g. relating to the ad-hocness in search for the optimal model specification, and theory-driven choice model's inability to work with text and image data. However, despite the potential value of machine learning to improve choice modelling practices, the choice modelling field has been somewhat hesitant to embrace machine learning. The aim of this paper is to facilitate (further) integration of machine learning in the choice modelling field. To achieve this objective, we make the case that (further) integration of machine learning in the choice modelling field is beneficial for the choice modelling field, and, we shed light on where the benefits of further integration can be found. Specifically, we take the following approach. First, we clarify the similarities and differences between the two modelling paradigms. Second, we provide a literature overview on the use of machine learning for choice modelling. Third, we reinforce the strengths of the current theory-driven modelling paradigm and compare this with the machine learning modelling paradigm, Fourth, we identify opportunities for embracing machine learning for choice modelling, while recognising the strengths of the current theory-driven paradigm. Finally, we put forward a vision on the future relationship between the theory-driven choice models and machine learning.

연구 동기 및 목표

• 이론 기반 선택 모델의 한계를 극복할 잠재력이 있음에도 불구하고, 분야가 기계학습을 도입하는 데 관성 있는 이유를 해결하기 위해.
• 이론 기반 선택 모델과 기계학습 접근 방식 간의 차이점과 상호보완적 관계를 명확히 하기 위해.
• 특히 텍스트 및 이미지와 같은 복잡한 데이터 유형을 처리하는 데 기계학습이 선택 모델링을 어떻게 향상시킬 수 있는지 구체적인 기회를 규명하기 위해.
• 기계학습을 통합함에도 불구하고 이론 기반 모델의 지속적인 가치를 강화하면서, 분야의 균형 잡힌 통합적인 미래를 제안하기 위해.

제안 방법

• 가정, 해석 가능성, 데이터 요구사항에 중점을 두어 이론 기반 및 기계학습 모델링 패러다임 간의 비교 분석.
• 다양한 분야에서 선택 모델링에 기계학습을 적용한 기존 사례를 체계적으로 문헌 리뷰.
• 기존 모델의 이론적 일관성과 기계학습의 데이터 유연성 같은 핵심 강점을 체계적 비교를 통해 규명.
• 기계학습 기법을 전통적인 선택 모델을 대체하기보다는 보완하는 방식으로 활용하는 하이브리드 모델링 비전 제안.
• 기계학습이 모델 명세, 데이터 처리, 예측 성능 향상에 기여할 수 있는 영역을 맵핑하기 위한 개념적 프레임워크 사용.
• 특히 기계학습을 통한 특징 공학 및 선택 데이터의 비선형 패턴 탐지와 같은 방법론적 통합 강조.

실험 결과

연구 질문

• RQ1 이론 기반 선택 모델의 가정과 구조는 기계학습 모델과 어떻게 다를까?
• RQ2 기계학습 기법은 비표준 데이터(예: 텍스트 및 이미지)를 처리할 때 어떻게 선택 모델의 명세 및 성능을 향상시킬 수 있을까?
• RQ3 현재 이론 기반 선택 모델이 겪는 주요 한계는 무엇이며, 기계학습이 이를 어떻게 해결할 수 있을까?
• RQ4 데이터 기반 기계학습 방법을 통합함에도 불구하고, 기존 모델의 해석 가능성과 이론적 기반은 어떻게 유지할 수 있을까?
• RQ5 선택 모델링에서 양 패러다임의 강점을 최적화하여 융합할 수 있는 미래의 모델 아키텍처는 어떤 형태가 될 수 있을까?

주요 결과

• 기계학습 모델은 전통적인 이론 기반 모델이 어려움을 겪는 복잡하고 고차원적인 데이터(예: 텍스트 및 이미지)를 다루는 데 상당한 이점이 있다.
• 현재 이론 기반 패러다임은 종종 비체계적인 모델 명세 과정을 겪는 경향이 있는데, 이는 기계학습을 통해 자동 특징 학습 및 하이퍼파rameter 튜닝을 통해 완화될 수 있다.
• 데이터 기반 성향이 있음에도 불구하고, SHAP나 LIME와 같은 기법을 통해 기계학습 모델은 더 해석 가능하게 만들 수 있으며, 이는 선택 모델링의 해석 가능성 요구사항과 부분적으로 일치시킬 수 있다.
• 기계학습의 선택 모델링 통합은 이론 기반 모델을 대체하는 것이 아니라, 특히 모델 탐색 및 데이터 전처리 분야에서 상호보완적인 향상이다.
• 하이브리드 미래 모델은 실현 가능하며 유익하다. 이는 기계학습이 데이터 복잡성과 비선형성을 처리하고, 이론 기반 모델이 해석 가능성과 인과 추론을 보장하는 방식으로 작동한다.
• 선택 모델링에서 기계학습에 관한 문헌은 점점 증가하고 있으며, 그 잠재력에 대한 인식이 높아지고 있음을 보여주지만, 주류 선택 모델링 연구에서는 여전히 전체 통합이 충분히 탐색되지 않은 상태이다.