[論文レビュー] Predicting Customer Churn: Extreme Gradient Boosting with Temporal Data

Bryan Gregory|ArXiv.org|Feb 9, 2018

Customer churn and segmentation被引用数 15

ひとこと要約

この論文では、大規模な時系列データから顧客の離脱を予測するために、極端勾配ブースティング（XGBoost）を用いた新しい時系列特徴工学的手法を提示している。時間的依存性を効果的に扱い、ラグ特徴およびローリングウィンドウ特徴を構築することで、574チームを超える他のチームを上回り、WSDMカップ2018の離脱予測チャレンジで1位を達成した。予測精度が非常に高かった。

ABSTRACT

Accurately predicting customer churn using large scale time-series data is a common problem facing many business domains. The creation of model features across various time windows for training and testing can be particularly challenging due to temporal issues common to time-series data. In this paper, we will explore the application of extreme gradient boosting (XGBoost) on a customer dataset with a wide-variety of temporal features in order to create a highly-accurate customer churn model. In particular, we describe an effective method for handling temporally sensitive feature engineering. The proposed model was submitted in the WSDM Cup 2018 Churn Challenge and achieved first-place out of 575 teams.

研究の動機と目的

• 大規模な時系列顧客データにおける時間的パターンを活用して、顧客離脱予測の精度を向上させること。
• 特に時間的漏れや依存性の問題に起因する時系列データにおける特徴工学の課題に対処すること。
• 教師あり学習モデル向けに意味のある時系列特徴を生成する、強固でスケーラブルな手法を開発すること。
• 多様な時間的特徴を用いて、実世界の離脱予測コンペティションで最先端のパフォーマンスを達成すること。
• XGBoostが顧客行動予測の複雑な時間的ダイナミクスをモデル化する有効性を示すこと。

提案手法

• 本手法は、顧客離脱の二値分類のベース推定器として極端勾配ブースティング（XGBoost）を採用している。
• ラグ特徴、ローリングウィンドウ統計（例：平均、標準偏差）および複数の時間間隔における時間ベースの集計を用いて、時系列特徴を生成している。
• 訓練時に将来の情報が使われないよう、データ漏れを防ぐために特徴工学が慎重に設計されている。
• 時間窓を動的に調整することで、過去の顧客行動ログから得られる広範な特徴セットを用いてモデルを訓練している。
• 汎化性能を確保するため、時系列分割を用いた交差検証を用いてハイパーパramータチューニングが実施されている。
• 本手法は、高次元の時系列特徴空間における非線形関係および特徴の相互作用を効果的に扱えるXGBoostの能力を活用している。

実験結果

リサーチクエスチョン

• RQ1 時系列顧客データにおける離脱予測を向上させるために、どのように時系列特徴を効果的に工学的に設計できるか？
• RQ2 XGBoostは、時系列データにおける顧客離脱予測において、他の決定木ベースおよび従来の機械学習モデルを上回ることができるか？
• RQ3 注意深く設計された時系列特徴構築が、モデルの汎化性能およびデータ漏れの回避に与える影響は何か？
• RQ4 複数の時間窓特徴を含めることで、実世界の離脱予測設定におけるモデルパフォーマンスにどのような影響を与えるか？
• RQ5 競争環境において、包括的な時系列特徴工学を施したXGBoostで達成可能な予測性能の水準は何か？

主な発見

• 提案されたXGBoostモデルは、WSDMカップ2018の離脱予測チャレンジで1位を達成し、574チームを超える他のチームを上回った。
• 予測精度が非常に高く、ローリング平均やラグ値などの時系列に特化した特徴の組み込みによって、性能が顕著に向上した。
• 特にデータ漏れを回避するという点で、適切な時系列特徴工学が、未観測の将来データに対する汎化性能を達成する上で極めて重要であった。
• 複数の時間窓を用いた特徴集約により、短期的および長期的の顧客行動パターンを両方把握できるようになった。
• XGBoostは、時系列特徴間の複雑な非線形相互作用を効果的にモデル化し、ベースラインモデルと比較して優れたパフォーマンスを発揮した。
• 高時間分解能を持つ大規模な実世界の顧客取引データにおいて、本ソリューションは強固でスケーラブルであることが実証された。