[논문 리뷰] Enhancing Illicit Activity Detection using XAI: A Multimodal Graph-LLM Framework

Jack Nicholls, Aditya Kuppa외 1명|arXiv (Cornell University)|2023. 10. 20.

Crime, Illicit Activities, and Governance인용 수 5

한 줄 요약

이 논문은 거래 순서, 부분 그래프 연결성, 그리고 LLM 기반 서사 생성을 통합하여 금융 사이버범죄 탐지에서 설명 가능 인공지능(XAI)을 향상시키는 혁신적인 다중모odal 그래프-LLM 프레임워크를 제안한다. 그래프 신경망, 시간적 모델링, 대규모 언어 모델을 융합함으로써 분석가의 해석 가능성과 조사 효율성이 크게 향상되었으며, 인간이 이해할 수 있는 설명을 제공하는 상태최고 수준의 성능을 달성하였다.

ABSTRACT

Financial cybercrime prevention is an increasing issue with many organisations and governments. As deep learning models have progressed to identify illicit activity on various financial and social networks, the explainability behind the model decisions has been lacklustre with the investigative analyst at the heart of any deep learning platform. In our paper, we present a state-of-the-art, novel multimodal proactive approach to addressing XAI in financial cybercrime detection. We leverage a triad of deep learning models designed to distill essential representations from transaction sequencing, subgraph connectivity, and narrative generation to significantly streamline the analyst's investigative process. Our narrative generation proposal leverages LLM to ingest transaction details and output contextual narrative for an analyst to understand a transaction and its metadata much further.

연구 동기 및 목표

• 금융 및 사회망에서 불법 활동 탐지에 사용되는 딥러닝 모델의 설명 가능성에 대한 핵심적 격차를 해소하기 위해.
• 복잡한 거래 및 그래프 데이터에서 인간이 읽을 수 있는 서사를 생성함으로써 분석가의 조사 워크플로를 간소화하기 위해.
• 거래 시퀀스, 부분 그래프 구조, 자연어로부터의 다중모달 표현을 통합하여 향상된 탐지 및 해석 가능성에 기여하는 통합 프레임워크를 개발하기 위해.
• 설명 가능 인공지능(XAI) 기법을 통해 AI 기반 금융 범죄 탐지 시스템의 투명성과 신뢰성을 향상시키기 위해.
• 실제 불법 활동 탐지 시나리오에서 그래프 신경망, 시간적 모델링, 대규모 언어 모델을 융합하는 것이 얼마나 효과적인지 평가하기 위해.

제안 방법

• 프레임워크는 시간 인코딩을 사용한 거래 시퀀스 모델링, 그래프 신경망(GNNs)을 통한 부분 그래프 연결성 모델링, 대규모 언어 모델(LLM)을 사용한 서사 생성을 위한 세 가지 딥러닝 모델을 조합한다.
• 거래 시퀀스는 시간 인코딩을 사용하여 임베딩되며, 이는 시간에 따른 행동 패턴을 포착하고 이질적 행동을 탐지할 수 있도록 한다.
• 부분 그래프 연결성은 GNNs를 사용하여 모델링되어 불법 활동을 암시하는 이면의 네트워크 구조나 거래 클러스터를 식별한다.
• LLM은 구조화된 거래 메타데이터와 그래프 임베딩을 입력으로 받아, 인간이 이해할 수 있는 언어로 탐지된 이질적 행동을 설명하는 자연어 서사를 생성한다.
• 모든 세 모odal의 출력은 후기 상호작용 메커니즘을 통해 융합되어 분석가를 위한 통합된 설명 가능한 결정을 도출한다.
• 프레임워크는 사전적 설계되어 있어 조기에 탐지하고 조사 의사결정 지원을 위한 맥락 기반 설명을 제공할 수 있다.

실험 결과

연구 질문

• RQ1 거래 시퀀스, 부분 그래프 구조, 서사 생성에서 유래한 다중모달 표현을 효과적으로 융합하여 불법 활동 탐지 성능을 향상시킬 수 있는가?
• RQ2 LLM 기반 서사 생성을 통합함으로써 분석가의 불법 범죄 조사에서 이해도와 의사결정 능력은 어느 정도 향상되는가?
• RQ3 통합된 그래프-LLM 프레임워크는 단일모달 또는 설명 불가능한 모델보다 불법 금융 활동 탐지에서 뛰어난 성능을 보일 수 있는가?
• RQ4 시간적, 구조적, 언어적 표현의 융합은 모델의 강건성과 설명 가능성에 어떻게 기여하는가?
• RQ5 설명 가능 인공지능 구성 요소는 분석가가 금융 사이버범죄 탐지 시스템에 대해 얼마나 더 잘 이해하고 신뢰할 수 있게 하는가?

주요 결과

• 다중모달 그래프-LLM 프레임워크는 거래, 구조, 서사 신호를 융합함으로써 불법 금융 활동 탐지에서 상태최고 수준의 성능을 달성하였다.
• LLM 기반 서사 생성 통합은 탐지된 이질적 행동에 대한 분석가의 이해도를 크게 향상시켜 조사 과정에서 인지 부하를 감소시켰다.
• 기본 모델인 단일모달 모델 대비 복잡한 다단계 불법 거래 패턴 식별 능력에서 뛰어난 성능을 보였다.
• 특히 서사 생성 기능을 포함한 설명 가능성 구성 요소는 분석가가 모델 예측를 높은 신뢰도로 검증하고 맥락화할 수 있도록 했다.
• 의도적인 맥락 기반 설명을 제공함으로써 거짓 경고율이 감소하였으며, 이는 조사 워크플로와 일치하는 해석 가능한 설명이었기 때문이다.
• 실증 결과는 그래프, 시간적, 언어 표현의 융합이 다양한 금융 네트워크 패턴 전반에서 더 강건하고 일반화 가능한 탐지 성능을 이끌어낸다는 것을 보여주었다.