[논문 리뷰] Predicting Customer Churn: Extreme Gradient Boosting with Temporal Data

Bryan Gregory|ArXiv.org|2018. 02. 09.

Customer churn and segmentation인용 수 15

한 줄 요약

이 논문은 대규모 시계열 데이터에서 고객 이탈을 예측하기 위해 초점화된 새로운 시간적 특성 공학 기법을 제시한다. 이는 극한 기울기 부스팅(XGBoost)을 사용하며, 시간적 종속성을 효과적으로 다루고 지연 특성 및 윈도우 기반 특성을 구성함으로써 WSDM 컵 2018 이탈 도전 대회에서 1위를 차지했으며, 574개의 팀보다 높은 예측 정확도를 달성했다.

ABSTRACT

Accurately predicting customer churn using large scale time-series data is a common problem facing many business domains. The creation of model features across various time windows for training and testing can be particularly challenging due to temporal issues common to time-series data. In this paper, we will explore the application of extreme gradient boosting (XGBoost) on a customer dataset with a wide-variety of temporal features in order to create a highly-accurate customer churn model. In particular, we describe an effective method for handling temporally sensitive feature engineering. The proposed model was submitted in the WSDM Cup 2018 Churn Challenge and achieved first-place out of 575 teams.

연구 동기 및 목표

• 대규모 시계열 고객 데이터의 시간 패턴을 활용하여 고객 이탈 예측 정확도를 향상시키기.
• 특히 시간적 누출 및 종속성 문제를 포함한 시계열 데이터의 특성 공학 과제를 해결하기.
• 지도 학습 모델에 의미 있는 시간적 특성을 생성하기 위한 강력하고 확장 가능한 방법 개발하기.
• 다양한 시간적 특성을 포함한 실세계 이탈 예측 대회에서 최첨단 성능 달성하기.
• XGBoost가 고객 행동 예측을 위한 복잡한 시간적 동역학을 모델링하는 데 효과적인지 입증하기.

제안 방법

• 이 방법은 고객 이탈의 이진 분류를 위한 기본 추정기로 초점화된 기울기 부스팅(XGBoost)을 사용한다.
• 지연 특성, 윈도우 기반 통계(예: 평균, 표준편차), 다양한 시간 간격에 대한 시간 기반 집계를 통해 시간적 특성을 공학한다.
• 학습 시 미래 정보가 사용되지 않도록 하여 데이터 누출을 방지하기 위해 특성 공학을 신중히 설계한다.
• 시간 창을 동적으로 조정하여 역사적 고객 활동 로그에서 유도된 넓은 특성 집합을 기반으로 모델을 훈련한다.
• 일반화를 위해 시간 순서 기반 분할에서 교차 검증을 사용하여 하이퍼파rameter 튜닝을 수행한다.
• 이 접근법은 XGBoost가 고차원 시간적 특성 공간에서 비선형 관계와 특성 상호작용을 효과적으로 다룰 수 있는 능력을 활용한다.

실험 결과

연구 질문

• RQ1 어떻게 시계열 고객 데이터의 이탈 예측을 향상시키기 위해 시간적 특성을 효과적으로 공학할 수 있는가?
• RQ2 XGBoost가 시간적 데이터에서 다른 트리 기반 및 전통적 기계 학습 모델보다 고객 이탈 예측에서 뛰어난 성능을 보일 수 있는가?
• RQ3 철저한 시간적 특성 구성이 모델 일반화 및 데이터 누출 방지에 미치는 영향은 무엇인가?
• RQ4 다양한 시간 창 기반 특성의 포함이 실세계 이탈 예측 환경에서 모델 성능에 어떤 영향을 미치는가?
• RQ5 경쟁적인 환경에서 종합적인 시간적 특성 공학을 적용한 XGBoost를 사용할 경우 달성 가능한 예측 성능 수준은 무엇인가?

주요 결과

• 제안된 XGBoost 모델은 WSDM 컵 2018 이탈 도전 대회에서 1위를 차지했으며, 574개의 팀을 압도했다.
• 모델은 매우 높은 예측 정확도를 보였으며, 이는 윈도우 기반 평균 및 지연 값과 같은 시간적 특성 공학의 포함 덕분에 크게 향상되었다.
• 특히 데이터 누출을 방지하는 철저한 시간적 특성 공학이 미래의 새로운 데이터에 대한 일반화 성능을 확보하는 데 핵심적인 역할을 했다.
• 다양한 시간 창을 활용한 특성 집계는 짧은 기간 및 장기 고객 행동 패턴을 모두 포착하는 데 기여했다.
• XGBoost는 시간적 특성 간의 복잡한 비선형 상호작용을 효과적으로 모델링하여 기준 모델 대비 뛰어난 성능을 달성했다.
• 고도로 시간적으로 세밀한 대규모 실세계 고객 거래 데이터에서 이 솔루션은 강력하고 확장 가능함을 입증했다.