[논문 리뷰] Spectrum-based deep neural networks for fraud detection

Shuhan Yuan, Xintao Wu외 2명|arXiv (Cornell University)|2017. 06. 03.

Imbalanced Data Classification Techniques참고 문헌 11인용 수 8

한 줄 요약

이 논문은 인접 행렬의 고유벡터에서 유도된 스펙트럼 좌표를 사용하여 서명 그래프에서의 사기 탐지에 적합한 스펙트럼 기반 딥 러닝 프레임워크를 제안한다. 노드를 저차원 스펙트럼 공간으로 투영하고, 1단계 이웃 노드의 좌표와 조합함으로써, 제한된 레이블 데이터로도 효과적인 사기 탐지를 가능하게 하며, 인접 행렬 기반 접근 방식을 능가하고, 20% 훈련 데이터로 CNN을 사용할 경우 최대 82.61%의 정확도를 달성한다.

ABSTRACT

In this paper, we focus on fraud detection on a signed graph with only a small set of labeled training data. We propose a novel framework that combines deep neural networks and spectral graph analysis. In particular, we use the node projection (called as spectral coordinate) in the low dimensional spectral space of the graph's adjacency matrix as input of deep neural networks. Spectral coordinates in the spectral space capture the most useful topology information of the network. Due to the small dimension of spectral coordinates (compared with the dimension of the adjacency matrix derived from a graph), training deep neural networks becomes feasible. We develop and evaluate two neural networks, deep autoencoder and convolutional neural network, in our fraud detection framework. Experimental results on a real signed graph show that our spectrum based deep neural networks are effective in fraud detection.

연구 동기 및 목표

• 제한된 레이블 훈련 데이터가 있는 서명 그래프에서의 사기 탐지 과제를 해결한다.
• 스펙트럼 그래프 분석을 활용하여 딥 뉴럴 네트워크의 고차원 입력 문제를 완화한다.
• 수작업으로 만든 그래프 지표에 의존하지 않고도 위상적 구조를 포착하는 프레임워크를 개발한다.
• 양성 및 음성 간선 정보를 모두 통합하여 서명 네트워크에서 효과적인 사기 탐지를 가능하게 한다.
• 스펙트럼 좌표를 사용한 딥 오토에인커(Deep Autoencoder, DAE)와 컨volutional 네트워크(Convolutional Neural Network, CNN)의 성능을 평가한다.

제안 방법

• 서명 그래프의 인접 행렬에 대한 스펙트럼 분해를 수행하여 상위 k개의 고유벡터를 추출하고, 저차원 스펙트럼 공간을 구성한다.
• 상위 k개의 고유벡터가 생성하는 k차원 부분공간에 대한 투영을 통해 각 노드의 스펙트럼 좌표를 계산한다.
• 각 노드의 스펙트럼 좌표를 그 1단계 이웃 노드의 평균 스펙트럼 좌표와 조합하며, 간선의 부호(양성/음성)에 따라 구분한다.
• 결합된 스펙트럼 입력을 딥 오토에인커(Deep Autoencoder, DAE) 및 컨볼루션 네트워크(Convolutional Neural Network, CNN) 모델에 입력하여 엔드 투 엔드 사기 분류를 수행한다.
• 소규모 훈련 세트에서 성능을 향상시키기 위해 DAE에 사전 훈련을 적용하여 학습된 은닉 표현을 활용한다.
• GPU 가속 훈련을 적용하여 스펙트럼 좌표 입력과 인접 행렬 입력 간의 효율성을 비교한다.

실험 결과

연구 질문

• RQ1 그래프의 인접 행렬에서 유도된 스펙트럼 좌표가 서명 그래프에서의 사기 탐지에 있어 위상적 구조를 효과적으로 표현할 수 있는가?
• RQ2 노드의 스펙트럼 좌표와 이웃의 스펙트럼 좌표를 조합함으로써 사기 탐지 성능이 향상되는가?
• RQ3 딥 뉴럴 네트워크(DAE 및 CNN)가 스펙트럼 좌표를 입력으로 사용할 때와 전체 인접 행렬을 입력으로 사용할 때의 성능는 어떻게 다른가?
• RQ4 스펙트럼 좌표의 차원 수(k)를 변화시켰을 때 탐지 정확도와 모델 안정성에 어떤 영향을 미치는가?
• RQ5 훈련 데이터 세트의 크기가 스펙트럼 공간에서 DAE와 CNN의 상대적 성능에 어떤 영향을 미치는가?

주요 결과

• 스펙트럼 좌표를 딥 뉴럴 네트워크의 입력으로 사용할 경우, 전체 인접 행렬을 사용할 때보다 사기 탐지 성능이 유의미하게 향상되며, 특히 5% 및 10% 훈련 데이터 비율에서 두드러진다.
• 20% 훈련 데이터로 스펙트럼 좌표를 사용할 경우, CNN 모델이 82.61%의 정확도를 달성하며, 동일한 입력에서 k-NN, SVM, DAE를 모두 능가한다.
• 낮은 훈련 데이터 비율(예: 5%)에서 DAE 모델이 CNN보다 성능이 뛰어나며, 이는 제한된 레이블 예제에서 일반화 능력을 향상시키는 사전 훈련 단계 덕분이다.
• 훈련 데이터가 5%를 초과하면 스펙트럼 공간에서 CNN이 DAE를 능가하며, 이는 충분한 데이터가 있을 경우 CNN의 뛰어난 표현 능력을 반영한다.
• 1단계 이웃의 스펙트럼 좌표를 포함시킴으로써 모든 모델에서 탐지 정확도가 1%-2% 향상되며, 국소적 위상적 맥락의 가치를 입증한다.
• 스펙트럼 좌표 기반 훈련은 인접 행렬 기반 훈련보다 효율적이며, 에포크당 추론 시간이 1초 이하로, 인접 행렬 기반 훈련의 2초 대비 빠르다.