[論文レビュー] Heterogeneous Information Network based Default Analysis on Banking Micro and Small Enterprise Users

Zheng Zhang, Y. Ji+3 more|arXiv (Cornell University)|Apr 24, 2022

FinTech, Crowdfunding, Digital Finance被引用数 4

ひとこと要約

本稿では、メタパスと階層的アテンションメカニズムを用いて、資金、業界、株式の複数視点の関係的データを活用する、異種情報ネットワークに基づくHIDAMというモデルを提案する。このモデルは、商業銀行におけるマイクロ・スモールエンドス（MSEs）のデフォルト予測を改善することを目的としている。実世界のデータ上で、AUC 0.7404、KSスコア 0.3600を達成し、データが乏しいMSEsの状況において、関係的かつ属性豊富な情報を活用することで、優れたロバスト性と解釈可能性を示している。

ABSTRACT

Risk assessment is a substantial problem for financial institutions that has been extensively studied both for its methodological richness and its various practical applications. With the expansion of inclusive finance, recent attentions are paid to micro and small-sized enterprises (MSEs). Compared with large companies, MSEs present a higher exposure rate to default owing to their insecure financial stability. Conventional efforts learn classifiers from historical data with elaborate feature engineering. However, the main obstacle for MSEs involves severe deficiency in credit-related information, which may degrade the performance of prediction. Besides, financial activities have diverse explicit and implicit relations, which have not been fully exploited for risk judgement in commercial banks. In particular, the observations on real data show that various relationships between company users have additional power in financial risk analysis. In this paper, we consider a graph of banking data, and propose a novel HIDAM model for the purpose. Specifically, we attempt to incorporate heterogeneous information network with rich attributes on multi-typed nodes and links for modeling the scenario of business banking service. To enhance feature representation of MSEs, we extract interactive information through meta-paths and fully exploit path information. Furthermore, we devise a hierarchical attention mechanism respectively to learn the importance of contents inside each meta-path and the importance of different metapahs. Experimental results verify that HIDAM outperforms state-of-the-art competitors on real-world banking data.

研究の動機と目的

• 限られた信用データと弱い財務安定性のため、マイクロ・スモールエンドス（MSEs）のデフォルトリスクが高いために、これを是正すること。
• 従来の特徴工学やルールベースのモデルが、複雑な関係的金融相互作用を捉えることの限界を克服すること。
• 属性付き異種情報ネットワーク（AHIN）を用いて、MSEのデフォルト予測をグラフベースの問題としてモデル化すること。
• メタパスを用いて、複数視点の関係的データ（資金、業界、株式）を統合して表現学習を向上させること。
• 解釈可能性と性能の両方を向上させるために、パスインスタンスとメタパスの重要度を捉える階層的アテンションメカニズムを開発すること。

提案手法

• 複数タイプのノード（例：会社、取引、株式）とリンク（例：送金、保有、サプライチェーン）を備えた属性付き異種情報ネットワーク（AHIN）として、ビジネスバンキングの状況をモデル化する。
• C b I b C（会社-銀行-取引-会社）やC i C（会社-投資家-会社）といったメタパスを定義し、異なる視点から構造的な関係的パターンを抽出する。
• 二段階のアテンションメカニズムを適用する：インスタンスレベルのアテンションで個々のパスインスタンスの重みを付け、意味論レベルのアテンションで予測の関連性に基づいて異なるメタパスの重みを付ける。
• 各メタパスに沿ってノード特徴量と中間メッセージを統合し、各MSEのための豊富で文脈に配慮した埋め込み表現を生成する。
• スパースなデータ上での表現品質と一般化性能を向上させるために、対照的学習の目的関数を用いてモデルをエンドツーエンドで学習する。
• 明示的な属性（例：財務レシオ）と暗黙の関係的信号の両方を統合し、データ不足の状況での特徴学習を強化する。

実験結果

リサーチクエスチョン

• RQ1 異種情報ネットワークは、MSEのデフォルト予測において、資金、業界、株式といった複数視点の関係的データを効果的にモデル化できるか？
• RQ2 限られた信用データを持つMSEのデフォルトリスクを特定するにあたり、異なるメタパスはどのように寄与するか？
• RQ3 階層的アテンションメカニズムは、デフォルト予測モデルの解釈可能性と性能をどの程度向上させるか？
• RQ4 提案されたHIDAMモデルは、実際の銀行データ上でのAUCおよびKS統計量において、既存の最先端手法を上回るか？
• RQ5 埋め込み次元数やアテンションベクトルサイズといったハイパーパrameterの変化に対して、モデルの性能はどの程度感受性を示すか？

主な発見

• HIDAMは実世界の銀行データ上において、AUC 0.7404、KSスコア 0.3600を達成し、すべての最先端ベースラインを上回った。
• アブレーション実験においてもモデルはロバストである：メタパス学習やアテンションなどの任意のコンポONENTを削除しても一貫した性能低下が見られ、AUCは最大で1.93%低下した。
• 意味論レベルのアテンションは、株式関連のメタパス（例：C c P c C、C i C）が他のものよりも予測に寄与していることを明らかにした。これは分野の期待と整合的である。
• インスタンスレベルのアテンションは、特定のデフォルトリスクの高い取引相手（例：C19、C51、C206）を高影響の近隣ノードとして同定しており、モデルの解釈可能性を裏付けている。
• モデルの性能は埋め込み次元数に対して最も感受性が高く、中程度の値でピークに達した後、過学習が生じる。
• アテンションベクトルの次元数が異なる場合でも性能は安定しており、意味論的好みを捕捉するのに十分な能力を有していることが示された。