[論文レビュー] Sequential Behavioral Data Processing Using Deep Learning and the Markov Transition Field in Online Fraud Detection

Ruinan Zhang, Fanglan Zheng+1 more|arXiv (Cornell University)|Aug 16, 2018

Time Series Analysis and Forecasting参考文献 1被引用数 19

ひとこと要約

本稿では、オンライン詐欺検出のため、長短期記憶（LSTM）ネットワークと畳み込みニューラルネットワーク（CNN）を組み合わせたハイブリッド深層学習モデルを提案する。このモデルは、ユーザー行動の順序データを用い、マルコフ遷移フィールド（MTF）で訓練される。この手法により、状態間の遷移確率を捉えたMTF行列にユーザーインタラクションの順序を符号化し、空間的パターン学習のためにCNNが処理する。一方、LSTMは時間的順序を保持する。統合モデルは、多層パーセプトロンと比較して23%、単一のRNNと比較して7%のAUC向上を達成した。

ABSTRACT

Due to the popularity of the Internet and smart mobile devices, more and more financial transactions and activities have been digitalized. Compared to traditional financial fraud detection strategies using credit-related features, customers are generating a large amount of unstructured behavioral data every second. In this paper, we propose an Recurrent Neural Netword (RNN) based deep-learning structure integrated with Markov Transition Field (MTF) for predicting online fraud behaviors using customer's interactions with websites or smart-phone apps as a series of states. In practice, we tested and proved that the proposed network structure for processing sequential behavioral data could significantly boost fraud predictive ability comparing with the multilayer perceptron network and distance based classifier with Dynamic Time Warping(DTW) as distance metric.

研究の動機と目的

• ウェブおよびモバイルプラットフォームからの高次元かつ非構造的な順序付き行動データを用いて、オンライン詐欺を検出する課題に対処すること。
• 動的時間ワープ（DTW）を用いたロジスティック回帰やk-NNといった従来のモデルの限界を乗り越え、深層学習による順序パターン認識を活用すること。
• ユーザーインタラクション順序における状態間遷移確率と時間的順序の両方を保持する、新しいアーキテクチャを設計すること。
• MTF符号化とCNNおよびRNN部品を統合することで、詐欺予測精度が向上するかを評価すること。
• ベースラインモデルと比較して、実世界の金融取引データ上で優れた性能を示すことを実証すること。

提案手法

• 各特徴ごとにワンホットエンコーディングを用いて、ユーザーインタラクション順序をバイナリベクトルに符号化し、複数のデータタイプ間でドメイン固有の情報を保持する。
• サイズ l×l のマルコフ遷移フィールド（MTF）行列を構築し、各要素は順序内での1つの状態から別の状態への遷移確率を表す。
• MTF行列を2次元畳み込みニューラルネットワーク（CNN）に供給し、平均プーリングを用いて確率的遷移情報を保持する。最大プーリングによる情報損失を回避する。
• 元の符号化済み状態の順序を処理するLSTMベースのRNNが、時間的依存性と順序関係をモデル化する。
• 最終分類器は、MTFに対するCNNの特徴と、元の順序に対するRNNの特徴を統合して、共同での詐欺予測を実行する。
• モデルはユーザーセッションのバッチ処理された順序データ上でエンドツーエンドで訓練され、性能はコルモゴロフ＝スミルノフ（KS）スコアおよびAUCで評価される。

実験結果

リサーチクエスチョン

• RQ1 MTF符号化とCNNおよびRNN部品を統合した深層学習モデルは、順序付き行動データからのオンライン詐欺検出において、従来の分類器を上回る性能を示せるか？
• RQ2 マルコフ遷移フィールド（MTF）は、高次元かつ多変量の行動順序から意味のある遷移パターンをどれほど効果的に保持できるか？
• RQ3 RNNとMTFベースのCNNを統合することで、単体のモデルと比較して、詐欺検出性能がどの程度向上するか？
• RQ4 本提案アーキテクチャは、リアルタイムの金融プラットフォームから得られる高次元かつストリーミング型の行動データを処理しても、予測性能を維持できるか？
• RQ5 多層パーセプトロンやDTWベースのk-NNといったベースラインモデルと比較して、詐欺検出性能にどの程度の定量的向上が見られるか？

主な発見

• 提案されたハイブリッドモデルは、多層パーセプトロンベースラインと比較して、詐欺予測AUCを23%向上させた。
• 単一のRNNモデルと比較して、AUCが7%向上した。MTF-CNNとRNN部品を統合することによる利点が裏付けられた。
• コルモゴロフ＝スミルノフ（KS）スコアは、ベースラインモデルの0.17から、提案モデルでは0.21に上昇し、強力な識別力を持つことを示した。
• MTF-CNN部品は、ユーザー行動間のグローバルな遷移パターンを効果的に捉えており、一方RNNは局所的な順序依存性を保持していた。
• フラット化された1セッションあたり100万以上の特徴を持つ実世界のデータセットにおいて、モデルは頑健性とスケーラビリティを示した。
• CNN層で平均プーリングを用いることで、重要な確率的遷移情報が保持され、この文脈では最大プーリングを上回る性能を発揮した。