[논문 리뷰] client2vec: Towards Systematic Baselines for Banking Applications

Leonardo Baldassini, José Antonio Rodríguez Serrano|arXiv (Cornell University)|2018. 02. 12.

Data Stream Mining Techniques참고 문헌 38인용 수 10

한 줄 요약

client2vec는 거래 데이터를 기반으로 고도로 정제된 스택형 노이즈 제거 autoencoder(mSDA)를 사용해 고객 임베딩을 생성하는 경량이며 비지도 학습 기반 라이브러리로, 뱅킹 애플리케이션에서 빠른 베이스라인 생성을 가능하게 한다. 이는 전통적인 방법에 비해 고객 세분화, 지출 복원, 캠프aign 타겟팅 등에서 뛰어난 성능을 보이며, 거래 데이터의 미세한 패턴을 포착해 자동차 보험 관련 고객 검색에서 MAP@50가 0.897에 도달했다.

ABSTRACT

The workflow of data scientists normally involves potentially inefficient processes such as data mining, feature engineering and model selection. Recent research has focused on automating this workflow, partly or in its entirety, to improve productivity. We choose the former approach and in this paper share our experience in designing the client2vec: an internal library to rapidly build baselines for banking applications. Client2vec uses marginalized stacked denoising autoencoders on current account transactions data to create vector embeddings which represent the behaviors of our clients. These representations can then be used in, and optimized against, a variety of tasks such as client segmentation, profiling and targeting. Here we detail how we selected the algorithmic machinery of client2vec and the data it works on and present experimental results on several business cases.

연구 동기 및 목표

• 수동 특성 공학 및 맞춤형 모델 구축에 의존하는 것을 줄임으로써 뱅킹 분야의 데이터 과학 워크플로를 간소화하기 위해.
• 최소한의 전처리로도 의미 있는 베이스라인을 생성할 수 있는 재사용 가능하고 낮은 복잡도의 도구를 개발하기 위해.
• 캠프aign 타겟팅 정밀도와 같은 비즈니스 목표에 직접적으로 최적화된 임베딩을 개발하기 위해.
• 비지도 학습 기반 고객 임베딩이 후속 작업에서 사회경제적 특성 또는 원시 거래 특성보다 우수한 성능을 보일 수 있는지 탐색하기 위해.
• 빠르고 단순한 인프라에서 배포 가능하며 향후 사용 사례에 쉽게 확장 가능한 시스템을 개발하기 위해.

제안 방법

• client2vec는 거래 데이터에서 직접 고객의 밀도 높은 벡터 표현을 학습하기 위해 고도로 정제된 스택형 노이즈 제거 autoencoder(mSDA)를 사용한다. 이는 word2vec 방식의 중간 단계 거래 임베딩을 생략한다.
• mSDA 모델은 고객의 거래 시퀀스를 엔드 투 엔드로 학습하며, 원본 입력을 재구성하면서 동시에 강건하고 저차원의 임베딩 공간을 학습한다.
• 고객 임베딩은 mSDA의 학습된 인코더 레이어에서 유도되며, 후속 작업에서 최근접 이웃 검색의 입력으로 사용된다.
• 시스템은 내적 곱 스코어링을 활용해 임베딩 유사도 기반으로 고객을 순위 매기며, 캠프aign 타겟팅이나 지출 예측과 같은 작업에서 빠른 검색을 가능하게 한다.
• 베이스라인은 비즈니스 문제를 최근접 이웃 회귀 작업으로 재정의함으로써 구성되며, 데이터의 이성적인 효과 원칙을 활용한다.
• 특정 지표(예: 타겟 검색 작업에서의 평균 정밀도(MAP)) 최적화를 통해 임베딩의 파라미터 조정이 가능하다.

실험 결과

연구 질문

• RQ1 원시 거래 데이터에서 유도된 비지도 학습 기반 고객 임베딩이 고객 세분화 및 타겟팅 작업에서 전통적인 사회경제적 특성보다 뛰어난 성능을 보일 수 있는가?
• RQ2 직접 고객 임베딩을 학습하는 데 mSDA를 사용할 경우, word2vec 기반 거래 임베딩 조합에 비해 뱅킹 애플리케이션에서 성능이 뛰어나게 되는가?
• RQ3 粗미세한 거래 데이터만으로도 후속 비즈니스 작업에 의미 있는 행동 패턴을 충분히 포착할 수 있는가?
• RQ4 동일한 고객 임베딩이 고객 프로파일링, 지출 복원, 캠프aign 타겟팅과 같은 다양한 뱅킹 애플리케이션에서 효과적으로 재사용될 수 있는가?
• RQ5 임베딩 기반 검색에서 다양한 k-근접 이웃 크기를 사용할 경우, 다양성과 정밀도 사이의 상호 보완적 트레이드오프는 어떻게 나타나는가?

주요 결과

• mSDA 기반 client2vec 접근법은 자동차 관련 지출이 있는 고객 검색에서 MAP@50가 0.897에 도달했으며, 무작위 베이스라인의 0.068에 비해 뚜렷한 향상이 있었다.
• 이 방법은 고객 세분화 및 타겟팅 작업에서 원시 거래 특성과 사회경제적 변수를 모두 초월하여 학습된 행동 임베딩의 가치를 입증했다.
• 더 넓은 관련성 기준(예: BBVA 또는 외부 보험사에서 자동차 보험을 가진 고객)을 적용했을 때 MAP는 0.289에서 0.897로 상승했으며, 이는 잠재된 행동 신호를 효과적으로 포착했음을 시사한다.
• 다양성과 정밀도 사이의 최적 균형은 k ∈ [1E4, 2E4] 범위에서 도달되었으며, 이 범위에서 높은 MAP 값과 함께 관련 고객의 높은 비율이 검색되었다.
• 최소한의 코드로 5분 이내에 효과적인 베이스라인을 구현했으며, 이는 빠른 프로토타이핑 및 생산 환경 배포에 있어 실용성을 입증한다.
• 수동 점검 결과, 모델이 휘발유 주유소 방문, 수리점 방문 등의 거래 패턴을 기반으로 자동차 보험을 가진 것으로 예상되는 고객을 성공적으로 검색했으며, 이는 모델의 의미론적 해석 가능성에 대한 지원을 제공한다.