[論文レビュー] Segment-Based Credit Scoring Using Latent Clusters in the Variational Autoencoder

Rogelio A. Mancisidor, Michael Kampffmeyer+2 more|arXiv (Cornell University)|Jun 7, 2018

Customer churn and segmentation参考文献 33被引用数 3

ひとこと要約

本稿では、変分オートエンコーダー（VAE）を用いたセグメントベースの信用スコアリングフレームワークを提案する。入力データにWeight of Evidence（WoE）変換を適用することで、明確で解釈可能なリスク差を示すクラスタを有する意味のある潜在空間を学習し、事前に定義されたクラスタ数や専門家の入力を必要とせずに、自動的なクラスタラベル付与、可視化、スケーラブルな非線形セグメンテーションを実現する。この手法は、金融リスクモデリングにおける安定性と解釈可能性において、従来のクラスタリング手法を凌駕する。

ABSTRACT

Identifying customer segments in retail banking portfolios with different risk profiles can improve the accuracy of credit scoring. The Variational Autoencoder (VAE) has shown promising results in different research domains, and it has been documented the powerful information embedded in the latent space of the VAE. We use the VAE and show that transforming the input data into a meaningful representation, it is possible to steer configurations in the latent space of the VAE. Specifically, the Weight of Evidence (WoE) transformation encapsulates the propensity to fall into financial distress and the latent space in the VAE preserves this characteristic in a well-defined clustering structure. These clusters have considerably different risk profiles and therefore are suitable not only for credit scoring but also for marketing and customer purposes. This new clustering methodology offers solutions to some of the challenges in the existing clustering algorithms, e.g., suggests the number of clusters, assigns cluster labels to new customers, enables cluster visualization, scales to large datasets, captures non-linear relationships among others. Finally, for portfolios with a large number of customers in each cluster, developing one classifier model per cluster can improve the credit scoring assessment.

研究の動機と目的

• 従来のクラスタリング手法が抱える限界、例えば任意のクラスタ数選択やスケーラビリティの低さを是正すること。
• 変分オートエンコーダー（VAE）の潜在空間を活用し、非線形的で意味のある顧客セグメントを、明確なリスクプロファイルとともに発見すること。
• 新しい顧客を既存のクラスタに自動的に割り当てる方法を構築し、セグメント構造の可視化を可能にすること。
• 統合的ポートフォリオモデルではなく、セグメント別にモデルを構築することで、信用スコアリングの精度を向上させること。
• リテールバンクにおけるヒューリスティックベースや専門家定義のセグメンテーションに対する、スケーラブルでデータ駆動型の代替手法を提供すること。

提案手法

• デフォルトへの傾向を符号化するため、金融特徴量にWeight of Evidence（WoE）変換を適用し、潜在空間における解釈可能性を向上させること。
• AEVBアルゴリズムを用いて、顧客データの低次元かつ分離された潜在表現を学習するため、変分オートエンコーダー（VAE）を訓練すること。
• VAEの潜在空間における学習済み事後分布を用いて、リスク関連のクラスタ構造を保持するコード表現を生成すること。
• 標準的なアルゴリズム（例：k-means）を用いて、VAEが学習した潜在コード上でクラスタリングを実行し、明確な顧客セグメントを同定すること。
• VAEの生成機能を活用し、事後推論により新しい顧客にクラスタラベルを自動割り当てすること。
• 潜在コードに対して次元削減（例：PCA）を適用し、クラスタの可視化によってセグメント特性を解釈すること。

実験結果

リサーチクエスチョン

• RQ1 変分オートエンコーダーの潜在空間は、顧客ポートフォリオにおけるリスク関連のクラスタ構造を効果的に捉え、保存できるか？
• RQ2 WoE変換は、VAEの潜在空間におけるクラスタの解釈可能性と品質を向上させるか？
• RQ3 提案手法は、手動でのチューニングや専門家の入力を必要とせずに、クラスタ数を自動的に提示できるか？
• RQ4 VAEフレームワークを用いて、新しい顧客を既存のクラスタに信頼性高く割り当てられるか？
• RQ5 VAEから得たクラスタに基づくセグメント別信用スコアリングは、統合的モデルによるポートフォリオスコアリングと比較して、モデル性能を向上させるか？

主な発見

• VAEの潜在空間は、明確に定義されたクラスタ構造を保持しており、各クラスタは顕著に異なるデフォルト確率を示している。
• WoE変換の適用により、潜在空間の解釈性が向上し、クラスタ構造が金融的困難リスクと整合的になっている。
• クラスタ品質指標（例：CH、シルエット、DB）を用いた自動的なクラスタ数提案が可能であり、ノルウェーの自動車ローンデータセットでは2〜3クラスタに収束する結果が得られた。
• 従来のクラスタリング手法とは異なり、VAEベースのアプローチでは潜在コードのPCAを用いたクラスタの可視化が可能であり、事後推論による新規顧客のラベリングも可能である。
• 本手法は大規模データセットに対しても効率的にスケーリングでき、線形手法（PCA や k-means）では捉えきれない複雑な非線形関係を捉えている。
• VAEから得たクラスタに基づくセグメント別信用モデルは、統合的モデルのポートフォリオアプローチを上回り、全体的な信用スコアリングの精度が向上した。