[論文レビュー] PCAL: A Privacy-preserving Intelligent Credit Risk Modeling Framework Based on Adversarial Learning

Yuli Zheng, Zhenyu Wu+3 more|arXiv (Cornell University)|Oct 6, 2020

Privacy-Preserving Technologies in Data参考文献 13被引用数 11

ひとこと要約

PCALは、敵対的学習を用いて、機会的利便性とプライバシーのバランスを図る、プライバシー保護型の信用リスクモデリングフレームワークを提案する。クライアント側で訓練されるマスキングモデルにより、機密性の高い金融データを匿名化しつつ、信用スコアリングのための予測的利便性を保持する。本手法は最先端のトレードオフを達成し、BLSではローン意思決定の正確性が95.29%に保たれ、多様な攻撃モデルにおいてプライバシー漏洩を顕著に低減（R² < 0.07）した。

ABSTRACT

Credit risk modeling has permeated our everyday life. Most banks and financial companies use this technique to model their clients' trustworthiness. While machine learning is increasingly used in this field, the resulting large-scale collection of user private information has reinvigorated the privacy debate, considering dozens of data breach incidents every year caused by unauthorized hackers, and (potentially even more) information misuse/abuse by authorized parties. To address those critical concerns, this paper proposes a framework of Privacy-preserving Credit risk modeling based on Adversarial Learning (PCAL). PCAL aims to mask the private information inside the original dataset, while maintaining the important utility information for the target prediction task performance, by (iteratively) weighing between a privacy-risk loss and a utility-oriented loss. PCAL is compared against off-the-shelf options in terms of both utility and privacy protection. Results indicate that PCAL can learn an effective, privacy-free representation from user data, providing a solid foundation towards privacy-preserving machine learning for credit risk analysis.

研究の動機と目的

• 機密性の高い金融データの広範な収集に伴う、信用リスクモデリングにおけるプライバシー懸念の増大に対処すること。
• 信用スコアリングにおける予測性能を損なわせることなく、プライバシーを保護するフレームワークを開発すること。
• クライアントと金融機関間での安全なデータ共有を可能にするために、敵対的学習による機密属性のマスキングを実現すること。
• 動的プライバシー解体モデルを用いて、モデルの利便性とプライバシー保護のトレードオフを定量的に評価すること。

提案手法

• クライアント側のマスキングモデルを訓練し、生の金融データを信用リスク予測に適した匿名化表現に変換する。
• フレームワークは、信用予測のための利便性損失と、機密属性の推定を困難にするためのプライバシーリスク損失の両方をバランスさせるミニマックス敵対的学習目的関数を用いる。
• プライバシー解体モデルを訓練し、マスキング表現から機密属性（例：収入、残高）を予測する。その成功確率をプライバシー漏洩の指標として用いる。
• マスキングモデルは、プライバシー解体モデルの性能を最小限に抑えるように最適化され、機密情報が効果的に隠蔽されることを保証する。
• プライバシー耐性を評価するために、多様な回帰モデル（SVR、RFR、ElasticNet、深層ネットワーク）のアンサンブルを攻撃者として用いる。
• 本手法は、2つの実世界データセット（BLS：50k件、Lending Club Loan：890k件）で評価され、プライバシー攻撃における正確性とR²を指標に性能が測定された。

実験結果

リサーチクエスチョン

• RQ1 敵対的学習フレームワークは、信用リスクモデリングのための予測的利便性を保持しつつ、機密性の高い金融属性を効果的にマスキングできるか？
• RQ2 PCALフレームワークは、単純なデータ削除戦略（弱い保護／強い保護）と比較して、利便性とプライバシー保護の両面で優れているか？
• RQ3 複数の機械学習モデルを用いた多様なプライバシー推定攻撃に対して、本フレームワークはどの程度耐性を示すか？
• RQ4 匿名化表現からの再識別リスクを顕著に低減させつつ、高い信用予測正確性を維持できるか？

主な発見

• PCALはBLSデータセットで95.29%のローン意思決定正確性を達成し、弱い保護（77.14%）と強い保護（57.40%）のベースラインを著しく上回った。
• Lending Clubデータセットでは、PCALが97.39%の正確性を維持し、すべてのベースラインを上回り、未保護の生データ（UP）の性能に近づいた。
• PCALのマスキング表現からのプライバシー解体モデルは、すべての攻撃モデルでR²が0.07未満に抑えられ、推定攻撃に対する強い耐性を示した。
• これに対して、未保護データ（UP）ではR²が最大1.0まで達し、プライバシー攻撃が可能であった。弱い保護および強い保護でも依然として顕著な漏洩（R² > 0.1）が認められた。
• PCALは、高い予測性能を維持しながら、機密属性再構築のリスクを最小限に抑える、最良の利便性-プライバシートレードオフを達成した。
• 本フレームワークは、深層ニューラルネットワークや従来の回帰器を含む多様な攻撃モデルに対して、プライバシー漏洩を顕著に低減し、耐性の高さを確認した。