[논문 리뷰] Modelling customer online behaviours with neural networks: applications to conversion prediction and advertising retargeting

Yanwei Cui, Rogatien Tobossi외 1명|arXiv (Cornell University)|2018. 04. 20.

Digital Marketing and Social Media참고 문헌 16인용 수 15

한 줄 요약

이 논문은 디지털 마케팅에서 전환 예측 및 재타겟팅을 향상시키기 위해 컨볼루션 신경망(CNN)과 순환 신경망(LSTM)을 조합한 하이브리드 딥러닝 모델을 제안한다. 사용자 검색 키워드와 페이지 이름을 의미적으로 임bedding하고, RNN에서 생성된 시퀀스에 대해 몬테카를로 시뮬레이션을 적용함으로써, 모델은 다음 페이지 방문 예측 정확도가 65.8%에 이를 수 있으며, 향후 전환 확률을 정밀하게 추정할 수 있다.

ABSTRACT

In this paper, we apply neural networks into digital marketing world for the purpose of better targeting the potential customers. To do so, we model the customer online behaviours using dedicated neural network architectures. Starting from user searched keywords in a search engine to the landing page and different following pages, until the user left the site, we model the whole visited journey with a Recurrent Neural Network (RNN), together with Convolution Neural Networks (CNN) that can take into account of the semantic meaning of user searched keywords and different visited page names. With such model, we use Monte Carlo simulation to estimate the conversion rates of each potential customer in the future visiting. We believe our concept and the preliminary promising results in this paper enable the use of largely available customer online behaviours data for advanced digital marketing analysis.

연구 동기 및 목표

• 신경망을 사용하여 고객 온라인 행동을 자동으로 지능적으로 모델링하는 시스템을 개발하여 수동 분석에 대한 의존도를 줄이기.
• 사용자 검색 키워드와 페이지 이름의 의미적 의미를 포착하여 디지털 마케팅에서 전환 예측을 향상시키기.
• 시퀀스 모델링과 시뮬레이션을 활용하여 재타겟팅 캠프에 맞춰 정확하고 개인화된 전환율 추정을 가능하게 하기.
• 대규모 순차적 온라인 행동 데이터를 활용하여 고급 디지털 마케팅 분석을 수행하기.
• 신경망을 프로그램형 광고 및 강화 학습 프레임워크에 통합해 볼 수 있는지 탐색하기.

제안 방법

• 양방향 LSTM 네트워크가 검색에서 종료까지의 고객 방문 순차적 흐름을 모델링하여 브라우징 행동의 시간적 의존성을 포착한다.
• CNN 레이어를 사용자 검색 키워드와 페이지 이름에 적용하여 의미 임베딩을 추출함으로써 텍스트 입력의 표현을 향상시킨다.
• CNN에서 유도된 워드 임베딩을 LSTM에 입력하여 맥락 인식 능력이 있는 전체 세션 내 이동 경로를 모델링한다.
• 몬테카를로 시뮬레이션을 사용하여 초기 사용자 행동에서 n단계 향후 방문 시퀀스를 생성함으로써 확률적 전환율 추정이 가능하다.
• 모델 훈련은 완전 연결층에 드롭아웃(0.5)을 적용한 교차 엔트로피 손실 함수를 사용하며, 검증 데이터를 기반으로 하이퍼파ram터 튜닝을 수행한다.
• 동일한 CNN+LSTM 모델 다섯 개의 앙상블을 통해 예측의 강인성과 정확도를 향상시키기 위해 평균화를 수행한다.

실험 결과

연구 질문

• RQ1 하이브리드 CNN-LSTM 아키텍처가 고객 온라인 브라우징 행동의 의미적 및 순차적 측면을 효과적으로 모델링할 수 있는가?
• RQ2 검색 키워드와 페이지 이름의 의미 임베딩을 통합할 경우 다음 페이지 예측 정확도는 어느 정도 향상되는가?
• RQ3 학습된 시퀀스를 기반으로 한 몬테카를로 시뮬레이션은 개별 사용자에 대한 향후 전환 확률을 신뢰성 있게 추정할 수 있는가?
• RQ4 앙상블 평균화 방식은 복잡하고 확률적인 사용자 행동 시퀀스에서 예측 성능을 어떻게 향상시키는가?
• RQ5 이 프레임워크는 프로그램형 광고에서 실시간 재타겟팅 및 강화 학습에 확장 가능한가?

주요 결과

• LSTM 전용 모델은 검증 세트에서 다음 페이지 예측 정확도가 63.5%를 기록했다.
• 입력에 CNN 기반 의미 임베딩을 추가함으로써 예측 정확도가 65.3%로 향상되었다.
• 동일한 CNN+LSTM 모델 다섯 개의 앙상블을 사용함으로써 정확도가 65.8%로 더욱 향상되었다.
• 모델는 도메인 전문가의 검증을 통해 실제와 유사한 고객 여정, 예를 들어 양식 작성 단계와 약속 예약까지를 성공적으로 시뮬레이션했다.
• 단지 두 단계의 초기 행동만을 입력으로 제공받아도 모델에서 유도된 몬테카를로 시뮬레이션은 타당하고 행동에 일관된 시퀀스를 생성했다.
• 결과적으로 신경망을 활용하여 자동화된 디지털 마케팅 응용을 위한 복잡하고 순차적인 고객 행동을 모델링하는 것이 가능함을 입증했다.