[논문 리뷰] Efficient Fraud Detection Using Deep Boosting Decision Trees

Biao Xu, Yao Wang외 2명|arXiv (Cornell University)|2023. 02. 12.

Imbalanced Data Classification Techniques인용 수 5

한 줄 요약

이 논문은 표현 학습 능력과 모델의 해석 가능성 간의 상충 관계를 해결하기 위해 신경망을 기울기 부스팅 결정 트리에 통합한 새로운 사기 탐지 프레임워크인 딥 부스팅 결정 트리(Deep Boosting Decision Trees, DBDT)를 제안한다. 기울기 기반 최적화가 가능한 미분 가능 소프트 결정 트리와 조합된 AUC 최대화 전략을 통해 DBDT는 데이터 불균형 문제를 효과적으로 다루며, 전통적인 트리 기반 모델과 리샘플링 기반 딥 러닝 접근 방식을 능가하는 최신 기술 수준의 성능을 달성하면서도 높은 모델의 해석 가능성을 유지한다.

ABSTRACT

Fraud detection is to identify, monitor, and prevent potentially fraudulent activities from complex data. The recent development and success in AI, especially machine learning, provides a new data-driven way to deal with fraud. From a methodological point of view, machine learning based fraud detection can be divided into two categories, i.e., conventional methods (decision tree, boosting...) and deep learning, both of which have significant limitations in terms of the lack of representation learning ability for the former and interpretability for the latter. Furthermore, due to the rarity of detected fraud cases, the associated data is usually imbalanced, which seriously degrades the performance of classification algorithms. In this paper, we propose deep boosting decision trees (DBDT), a novel approach for fraud detection based on gradient boosting and neural networks. In order to combine the advantages of both conventional methods and deep learning, we first construct soft decision tree (SDT), a decision tree structured model with neural networks as its nodes, and then ensemble SDTs using the idea of gradient boosting. In this way we embed neural networks into gradient boosting to improve its representation learning capability and meanwhile maintain the interpretability. Furthermore, aiming at the rarity of detected fraud cases, in the model training phase we propose a compositional AUC maximization approach to deal with data imbalances at algorithm level. Extensive experiments on several real-life fraud detection datasets show that DBDT can significantly improve the performance and meanwhile maintain good interpretability. Our code is available at https://github.com/freshmanXB/DBDT.

연구 동기 및 목표

• 딥 러닝에서의 표현 학습 능력과 기존 트리 기반 모델의 해석 가능성 간의 상충 관계를 사기 탐지 분야에서 해결하기 위해.
• 사기 사례가 희귀한 데이터셋에서 발생하는 클래스 불균형으로 인한 성능 저하 문제를 해결하기 위해.
• 데이터 리샘플링 기법에 의존하지 않고 알고리즘 수준에서 AUC를 최대화하는 학습 전략을 개발하기 위해.
• 신경망 기반 분할을 통해 일반화 능력을 향상시키면서도, 구조화된 결정 경로를 통해 모델의 해석 가능성을 유지하기 위해.
• 실제 사기 탐지 환경에서 DBDT의 효과성을 평가하기 위해, 특성 중요도 분석과 하이퍼파rameter에 대한 강건성도 함께 검토하기 위해.

제안 방법

• 각 노드에서 신경망을 사용해 분할 확률을 계산하는 기울기 기반 최적화가 가능한 미분 가능 소프트 결정 트리(Soft Decision Tree, SDT)를 구축하여, 기존의 탐욕적 분할 방식보다 일반화 능력과 안정성을 향상시킨다.
• SDT를 기울기 부스팅 프레임워크에 통합하여 손실 함수를 미분 가능한 방식으로 최소화하는 방식으로 순차적으로 학습시킴으로써, 부스팅과 딥 러닝의 장점을 결합한다.
• 학습 중에 ROC 곡선 아래 면적을 직접 최대화하는 조합형 AUC 최대화 목표 함수를 설계하여, 리샘플링 없이도 불균형 데이터에서의 성능 향상을 달성한다.
• 경사 하강법(Stochastic Gradient Descent, SGD)을 사용해 엔드 투 엔드 DBDT 모델을 학습시켜 효율적인 최적화와 대규모 데이터셋에 대한 확장성을 확보한다.
• 각 특성을 무작위로 섞고 AUC의 감소 폭을 중요도 척도로 사용하는 OOB(out-of-bag) 데이터의 순열 기반 특성 중요도 방법을 구현한다.
• 신경망 노드가 포함된 구조적 부스팅 아키텍처를 통해 결정 경로와 특성 기여도를 노출시켜, 해석 가능성 유지에 기여한다.

실험 결과

연구 질문

• RQ1 기존 결정 트리와 비교해 미분 가능한 소프트 결정 트리 구조가 사기 탐지에서 일반화 능력과 안정성 향상에 기여하는가?
• RQ2 기울기 부스팅에 신경망을 통합함으로써 표현 학습 능력은 향상시키면서도 모델의 해석 가능성은 유지할 수 있는가?
• RQ3 학습 중 조합형 AUC 최대화 전략이 사기 탐지에서 데이터 불균형 문제를 효과적으로 다룰 수 있는가? 기존 리샘플링 기법보다 성능이 뛰어나게 작용하는가?
• RQ4 실제 사기 탐지 데이터셋에서 XGBoost, GBDT, 딥 러닝 모델과 비교했을 때 DBDT의 성능과 해석 가능성은 어떠한가?
• RQ5 DBDT 모델은 하이퍼파ram터 변화에 얼마나 강건한가? 실제 적용 시 예측의 해석 가능성은 어느 정도인가?

주요 결과

• 리샘플링 없이 학습된 DBDT-SGD는 AdaBoost 및 GBDT와 같은 일반 분류 알고리즘보다 뚜렷이 뛰어난 성능을 보이며, 강력한 기초 성능을 입증한다.
• 조합형 AUC 최대화 전략을 사용해 학습한 DBDT는 리샘플링 기반 접근 방식보다 뛰어난 AUC 성능을 달성하여, 알고리즘 수준에서의 불균형 처리 전략의 효과성을 입증한다.
• 대출 사기 데이터셋에서 상위 5개의 중요 특성은 각각 최근 6개월 간의 신용 조회 수(22.8%), 대출 목적(18.9%), FICO 점수(16.1%), 월별 상환 금액(10.9%), 연간 소득의 로그 값(10.7%)으로, 행동적 요인과 신용 리스크 지표를 반영한다.
• 모델은 하이퍼파ram터 설정에 관계없이 높은 안정성을 보이며, 강건성과 실용적 활용 가능성을 시사한다.
• 사례 연구를 통해 DBDT는 신경망 노드가 포함되어 있어도 명확한 결정 경로와 특성 중요도 순위를 제공함으로써 강력한 해석 가능성을 유지함을 확인했다.
• 조합형 AUC 최대화 전략은 이식 가능하며, 다른 모델에 적용해 불균형 데이터에서의 성능 향상에 기여할 수 있다.