[논문 리뷰] Segment-Based Credit Scoring Using Latent Clusters in the Variational Autoencoder

Rogelio A. Mancisidor, Michael Kampffmeyer외 2명|arXiv (Cornell University)|2018. 06. 07.

Customer churn and segmentation참고 문헌 33인용 수 3

한 줄 요약

이 논문은 변동성 오토인코더(VAE)를 사용하여 잠재 고객 세그먼트를 발견하는 세그먼트 기반 신용 스코링 프레임워크를 제안한다. 입력 데이터에 Weight of Evidence (WoE) 변환을 적용함으로써 VAE는 위험 프로파일이 뚜렷한 클러스터를 보여주는 의미 있는 잠재 공간을 학습한다. 이로 인해 자동으로 클러스터 레이블을 부여하고 시각화하며, 사전 정의된 클러스터 수나 전문가 입력 없이도 스케일러블하고 비선형적인 세그먼트 분할이 가능해지며, 전통적인 클러스터링 방법보다 안정성과 해석 가능성 면에서 금융 리스크 모델링에서 뛰어난 성능을 발휘한다.

ABSTRACT

Identifying customer segments in retail banking portfolios with different risk profiles can improve the accuracy of credit scoring. The Variational Autoencoder (VAE) has shown promising results in different research domains, and it has been documented the powerful information embedded in the latent space of the VAE. We use the VAE and show that transforming the input data into a meaningful representation, it is possible to steer configurations in the latent space of the VAE. Specifically, the Weight of Evidence (WoE) transformation encapsulates the propensity to fall into financial distress and the latent space in the VAE preserves this characteristic in a well-defined clustering structure. These clusters have considerably different risk profiles and therefore are suitable not only for credit scoring but also for marketing and customer purposes. This new clustering methodology offers solutions to some of the challenges in the existing clustering algorithms, e.g., suggests the number of clusters, assigns cluster labels to new customers, enables cluster visualization, scales to large datasets, captures non-linear relationships among others. Finally, for portfolios with a large number of customers in each cluster, developing one classifier model per cluster can improve the credit scoring assessment.

연구 동기 및 목표

• 기존 클러스터링 방법의 한계, 예를 들어 임의의 클러스터 수 선택과 낮은 확장성 문제를 해결하기 위해.
• 변동성 오토인코더(VAE)의 잠재 공간을 활용하여 비선형적이며 의미 있는 고객 세그먼트를 발견하고, 각 세그먼트가 뚜렷한 리스크 프로파일을 갖도록 하기 위해.
• 기존 클러스터에 신규 고객을 자동으로 할당하고 세그먼트 구조를 시각화할 수 있는 방법을 개발하기 위해.
• 포트폴리오 전체에 대한 단일 모델이 아닌 세그먼트별 모델 개발을 통해 신용 스코링 정확도를 향상시키기 위해.
• 소매은행에서 히ュ리스틱 기반 또는 전문가 정의 세그먼트화의 대안으로서 확장 가능하고 데이터 기반의 접근 방식을 제공하기 위해.

제안 방법

• 기본적인 금융 특성에 Weight of Evidence (WoE) 변환을 적용하여 디폴트 경향성을 인코딩함으로써 잠재 공간 내의 해석 가능성 향상.
• AEVB 알고리즘을 사용하여 변동성 오토인코더(VAE)를 훈련하여 고객 데이터의 저차원이고 분리된 잠재 표현을 학습.
• VAE의 학습된 사후 분포를 활용하여 리스크 관련 클러스터링 구조를 유지하는 코드 표현을 생성.
• 기존 알고리즘(예: k-means)을 사용하여 VAE가 학습한 잠재 코드에 대해 클러스터링을 수행하여 뚜렷한 고객 세그먼트 식별.
• VAE의 생성 능력을 활용하여 사후 추론을 통해 신규 고객에 대한 클러스터 레이블을 부여.
• 잠재 코드에 대해 차원 감소(예: PCA)를 수행하여 클러스터를 시각화하고 세그먼트 특성 해석.

실험 결과

연구 질문

• RQ1 변동성 오토인코더(VAE)의 잠재 공간이 고객 포트폴리오의 리스크 관련 클러스터링 구조를 효과적으로 포착하고 유지할 수 있는가?
• RQ2 WoE 변환은 VAE의 잠재 공간 내에서 클러스터의 해석 가능성과 품질을 향상시키는가?
• RQ3 제안된 방법은 수동 튜닝이나 전문가 입력 없이도 클러스터 수를 자동으로 제안할 수 있는가?
• RQ4 VAE 프레임워크를 사용하여 신규 고객을 기존 클러스터에 신뢰성 있게 할당할 수 있는가?
• RQ5 VAE에서 파생된 클러스터를 기반으로 한 세그먼트 기반 신용 스코링은 단일 모델 포트폴리오 스코링에 비해 성능을 향상시키는가?

주요 결과

• VAE의 잠재 공간은 뚜렷한 리스크 프로파일에 대응하는 잘 정의된 클러스터링 구조를 유지하며, 클러스터 간 디폴트 경향성에 유의미한 차이를 보인다.
• WoE 변환을 적용함으로써 잠재 공간의 해석 가능성 향상이 이루어졌으며, 클러스터 구조가 금융 위기 리스크와 잘 일치한다.
• 기존 클러스터링 방법과 달리, VAE 기반 접근법은 클러스터 수를 클러스터 품질 지표(예: CH, 실루엣, DB)를 통해 자동으로 제안하며, 노르웨이 자동차 대출 데이터셋에서는 2~3개의 클러스터로 수렴하는 결과를 도출한다.
• 기존 클러스터링 방법과 달리, VAE 기반 접근법은 잠재 코드에 대한 PCA를 통해 클러스터를 시각화할 수 있으며, 사후 추론을 통해 신규 고객의 레이블링을 지원한다.
• 이 방법은 대규모 데이터셋에 대해 효율적으로 확장 가능하며, 선형 방법인 PCA나 k-means가 모델링하지 못하는 복잡한 비선형 관계를 포착할 수 있다.
• VAE에서 파생된 클러스터를 기반으로 한 세그먼트별 신용 모델은 단일 모델 기반 포트폴리오 접근법보다 성능이 뛰어나며, 전체적인 신용 스코링 정확도를 향상시킨다.