[논문 리뷰] Performing Highly Accurate Predictions Through Convolutional Networks for Actual Telecommunication Challenges

Jaime Zaratiegui, Ana Montoro외 1명|arXiv (Cornell University)|2015. 11. 16.

Customer churn and segmentation참고 문헌 21인용 수 10

한 줄 요약

이 논문은 통신 고객 데이터(예: 통화 세부 기록 및 충전 이력)를 이미지 유사 표현으로 인코딩하는 컨볼루션 신경망인 WiseNet을 제안한다. 이는 고객 이탈을 예측하기 위한 것이다. 이러한 구조적 데이터를 공간 격자로 변환하여 훈련함으로써 WiseNet은 수작업으로 특징을 추출한 전통적인 기계학습 모델을 능가하며, 재훈련 없이도 다양한 시장에서 일반화됨을 보여주어 향상된 특징 학습 능력과 수작업 특징 공학의 감소를 입증한다.

ABSTRACT

We investigated how the application of deep learning, specifically the use of convolutional networks trained with GPUs, can help to build better predictive models in telecommunication business environments, and fill this gap. In particular, we focus on the non-trivial problem of predicting customer churn in telecommunication operators. Our model, called WiseNet, consists of a convolutional network and a novel encoding method that transforms customer activity data and Call Detail Records (CDRs) into images. Experimental evaluation with several machine learning classifiers supports the ability of WiseNet for learning features when using structured input data. For this type of telecommunication business problems, we found that WiseNet outperforms machine learning models with hand-crafted features, and does not require the labor-intensive step of feature engineering. Furthermore, the same model has been applied without retraining to a different market, achieving consistent results. This confirms the generalization property of WiseNet and the ability to extract useful representations.

연구 동기 및 목표

• 고정된 계약 종료 일자가 없고 이탈 전에 미묘한 행동 변화를 보이는 선불 통신 고객의 이탈 예측 문제를 해결하기 위해.
• 시간 순서의 구조적 통신 데이터를 이미지 표현으로 변환함으로써 컨볼루션 신경망(CNN)이 효과적으로 학습할 수 있는지 탐색하기 위해.
• 새로운 데이터 인코딩 방법을 통해 엔드 투 엔드 학습을 가능하게 하여 수작업 특징 공학의 고된 과정을 제거하기 위해.
• 재훈련 없이도 다양한 시장에서 제안된 모델의 일반화 능력을 평가하기 위해.

제안 방법

• 시간을 x축에 선형으로 매핑하고 데이터 유형(발신 통화, 수신 통화, 충전)을 y축에 매핑하여 통화 세부 기록(CDRs) 및 충전 이벤트와 같은 고객 행동 데이터를 2차원 이미지로 인코딩하였다.
• 이 인코딩 방법은 시간적 순서와 범주적 관계를 유지하는 공간 격자로 시간적 순서의 구조적 데이터를 변환하여 CNN이 계층적 패턴을 학습할 수 있도록 한다.
• GPU 가속된 딥러닝을 사용하여 이러한 이미지 표현에서 학습된 고유한 컨볼루션 신경망 아키텍처(WiseNet)를 사용하여 고객을 이탈자 또는 비이탈자로 분류하였다.
• 모델은 초기 컨볼루션 레이어에서 학습된 필터를 활용해 통화 및 충전 활동의 국소적 패턴을 탐지하고, 이후 완전 연결 레이어를 통해 최종 예측을 수행한다.
• 최종 히든 레이어 활성화값에 t-SNE 차원 감소 기법을 적용하여 학습된 표현을 시각화하고 이들이 이탈 확률과 어떤 관련이 있는지 분석하였다.
• 동일한 훈련된 모델을 재훈련 없이 다른 시장에 적용하여 일반화 및 전이 학습 능력을 검증하였다.

실험 결과

연구 질문

• RQ1 시간 순서의 구조적 통신 데이터를 이미지 유사 표현으로 변환했을 때 컨볼루션 신경망(CNN)이 효과적으로 학습할 수 있는가?
• RQ2 WiseNet은 수작업으로 특징을 추출한 전통적인 기계학습 모델보다 선불 통신 서비스의 고객 이탈 예측에서 성능이 뛰어나게 되는가?
• RQ3 단일로 훈련된 CNN 모델이 재훈련 없이 다양한 시장으로 일반화되는 정도는 어느 정도이며, 이는 강력한 특징 학습과 전이 가능성의 지표가 되는가?
• RQ4 WiseNet이 학습한 잠재 표현은 어떤 형태이며, 이들은 이탈 확률과 행동 패턴과 어떻게 관련이 있는가?

주요 결과

• WiseNet은 수작업 특징 공학에 기반한 전통적 기계학습 모델보다 높은 예측 정확도를 달성하여, 구조적 데이터에 대한 엔드 투 엔드 딥러닝의 우수성을 입증하였다.
• 모델은 수작업 특징 공학이 필요 없이도 구조적 데이터에서 의미 있는 표현을 효과적으로 학습하여 모델 개발 과정에서 인간의 노력을 크게 감소시켰다.
• t-SNE 시각화 결과, 가장 큰 클러스터 내에서 이탈 확률이 매끄럽게 분포되어 있음을 확인하여 행동 변화가 정량적일 뿐 정성적 변화가 아님을 시사하였다.
• 낮은 이탈 확률 영역 내에서 뚜렷하고 고립된 클러스터(d)가 관찰되었으며, 이는 높은 이탈 확률을 보였고, 이는 잠재적인 이상치 또는 추가 조사가 필요한 새로운 행동 패턴을 시사하였다.
• 동일한 모델 아키텍처, 가중치 및 하이퍼파rameter는 재훈련 없이도 다른 시장에 효과적으로 일반화되었으며, 강력한 전이 학습 및 일반화 성질을 확인하였다.
• 학습된 표현에는 주로 하나의 주요 클러스터 외에 고립된 저이탈 클러스터가 관찰되지 않았으며, 이는 고객 유지를 이끄는 유일한 주요 요인일 가능성이 있음을 시사하였다.