[논문 리뷰] Real World Applications of Machine Learning Techniques over Large Mobile Subscriber Datasets

Jobin Wilson, Chitharanj Kachappilly외 4명|arXiv (Cornell University)|2015. 02. 08.

Customer churn and segmentation참고 문헌 16인용 수 4

한 줄 요약

이 논문은 이동통신 사업자가 64페타바이트의 모바일 가입자 데이터를 대상으로 대규모 개인화 및 예측 분석을 가능하게 하기 위해 설계한 확장성 있고 실시간 기계학습 플랫폼을 제시한다. 룰 기반 RDBMS 시스템에서 Hadoop, Mahout 및 커스텀 map-reduce 워크플로우를 활용한 하이브리드 빅데이터 아키텍처로 진화함으로써, 이 플랫폼은 연간 10억 건 이상의 개인화된 추천을 5억 명 이상의 가입자에게 제공하며, 적응형이고 콘텐츠 인식형 추천 엔진 및 반복적 모델 최적화를 통해 캠프aign의 효과를 크게 향상시켰다.

ABSTRACT

Communication Service Providers (CSPs) are in a unique position to utilize their vast transactional data assets generated from interactions of subscribers with network elements as well as with other subscribers. CSPs could leverage its data assets for a gamut of applications such as service personalization, predictive offer management, loyalty management, revenue forecasting, network capacity planning, product bundle optimization and churn management to gain significant competitive advantage. However, due to the sheer data volume, variety, velocity and veracity of mobile subscriber datasets, sophisticated data analytics techniques and frameworks are necessary to derive actionable insights in a useable timeframe. In this paper, we describe our journey from a relational database management system (RDBMS) based campaign management solution which allowed data scientists and marketers to use hand-written rules for service personalization and targeted promotions to a distributed Big Data Analytics platform, capable of performing large scale machine learning and data mining to deliver real time service personalization, predictive modelling and product optimization. Our work involves a careful blend of technology, processes and best practices, which facilitate man-machine collaboration and continuous experimentation to derive measurable economic value from data. Our platform has a reach of more than 500 million mobile subscribers worldwide, delivering over 1 billion personalized recommendations annually, processing a total data volume of 64 Petabytes, corresponding to 8.5 trillion events.

연구 동기 및 목표

• 대규모 고속 이동통신 가입자 데이터를 처리하는 데 어려움을 겪는 룰 기반 RDBMS 기반 마케팅 시스템의 한계를 해결하기 위해.
• 대규모 스케일에서 개인화된 추천을 실시간으로 제공할 수 있는 확장성 있고 실시간 기계학습 플랫폼을 설계하고 운영하기 위해.
• 실제 통신 환경에서 대규모 데이터 마이닝 및 기계학습 알고리즘을 생산 환경에 구현하는 데서 발생하는 실질적 과제와 해결책을 입증하기 위해.
• 생산 분석 플랫폼에서 데이터 과학, 도메인 전문 지식, 운영 프로세스를 통합하기 위한 최선의 실천 방안을 수립하기 위해.

제안 방법

• RDBMS 기반 시스템에서 Hadoop, Apache Mahout 및 커스텀 map-reduce 파이프라인을 활용한 분산 빅데이터 분석 플랫폼으로 진화시켰다.
• 세 단계 추천 시스템을 구현함: (1) Mahout의 CVB를 사용한 잠재 디리클레 분포(Latent Dirichlet Allocation, LDA) 기반 콘텐츠-주제 모델링, (2) map-reduce 집계를 통한 가입자-주제 프로파일 생성, (3) 프로파일 유사도를 기반으로 한 실시간 추천 점수 산정.
• 사용자-유사도 행렬을 사전에 계산하는 데 의존하는 것을 줄이기 위해, 사용자 프로파일과 콘텐츠 프로파일 간의 직접 유사도를 계산하기 위해 쿨백-라이블러 발산(Kullback-Leibler divergence)을 사용함.
• 주간 콘텐츠 모델링, 매일 프로파일 및 추천 업데이트를 위한 스케줄링된 워크플로우를 갖춘 모듈식이고 분리된 파이프라인을 설계함.
• 데이터가 희박할 경우에도 비즈니스 로직과 백업 추천을 가능하게 하기 위해 ML 파이프라인에 수동 룰 기반 오버라이드를 통합함.
• 분산 처리(Hadoop)와 인메모리 처리를 조합한 하이브리드 아키텍처를 설계하였으며, 최적의 성능을 확보하기 위해 교체 가능한 실행 모드를 제공함.

실험 결과

연구 질문

• RQ1 이동통신 사업자가 5억 명의 모바일 가입자 전반에 걸쳐 실시간 개인화를 제공하기 위해 기계학습 시스템을 어떻게 확장할 수 있는가?
• RQ2 실제 통신 환경에서 대규모 데이터 마이닝 파이프라인을 생산 환경에 구현하기 위해 필수적인 아키텍처 및 운영 패턴은 무엇인가?
• RQ3 도메인 지식과 룰 기반 시스템이 생산 환경의 자동화된 기계학습 모델과 효과적으로 공존할 수 있는 방법은 무엇인가?
• RQ4 데이터 품질, 기원 추적, 라이프사이클 관리가 페타바이트 규모의 신뢰성 있고 확장 가능한 분석을 보장하는 데 어떤 역할을 하는가?
• RQ5 실제 기계학습 구현에서 알고리즘의 정교함보다 특징 공학 및 전처리가 얼마나 더 뛰어난 성능을 낼 수 있는가?

주요 결과

• 플랫폼은 총 64페타바이트의 데이터를 처리했으며, 이는 8.5조 건의 이벤트에 해당하며, 연간 5억 명 이상의 가입자에게 10억 건 이상의 개인화된 추천을 제공함.
• 세 단계 map-reduce 파이프라인은 주간 및 일일 스케줄링을 통해 확장 가능한 콘텐츠 모델링, 가입자 프로파일링, 실시간 추천 생성을 가능케 했다.
• 사전 계산된 사용자-유사도 행렬을 직접 KL 발산 기반의 유사도 추정으로 대체함으로써 확장성과 지연 시간이 크게 향상됨.
• ML 추천에 수동 룰을 통합함으로써 데이터 희박성 문제를 해결하고 비즈니스 우선순위에 부합하는 결과를 도출하는 데 필수적이었음.
• Hadoop, 인메모리 처리, 교체 가능한 실행 프레임워크를 조합한 하이브리드 아키텍처는 다양한 워크로드에 대응하는 탄력적이고 고성능 분석을 가능케 했다.
• 강력한 데이터 품질 관리, 기원 추적, 중앙 집중식 데이터 카탈로그 관리 체계는 복잡한 분석을 대규모로 운영화하는 데 핵심 요소로 작용함.