[论文解读] Enhancing Illicit Activity Detection using XAI: A Multimodal Graph-LLM Framework

Jack Nicholls, Aditya Kuppa+1 more|arXiv (Cornell University)|Oct 20, 2023

Crime, Illicit Activities, and Governance被引用 5

一句话总结

本文提出了一种新颖的多模态图-大语言模型（Graph-LLM）框架，通过整合交易序列、子图连通性以及大语言模型（LLM）驱动的叙事生成，提升金融网络犯罪检测中可解释人工智能（XAI）的能力。通过融合图神经网络、时序建模与大语言模型，该系统显著增强了分析师的可解释性与调查效率，在实现人类可理解解释的同时，取得了最先进的检测性能。

ABSTRACT

Financial cybercrime prevention is an increasing issue with many organisations and governments. As deep learning models have progressed to identify illicit activity on various financial and social networks, the explainability behind the model decisions has been lacklustre with the investigative analyst at the heart of any deep learning platform. In our paper, we present a state-of-the-art, novel multimodal proactive approach to addressing XAI in financial cybercrime detection. We leverage a triad of deep learning models designed to distill essential representations from transaction sequencing, subgraph connectivity, and narrative generation to significantly streamline the analyst's investigative process. Our narrative generation proposal leverages LLM to ingest transaction details and output contextual narrative for an analyst to understand a transaction and its metadata much further.

研究动机与目标

• 解决在金融与社交网络中用于非法活动检测的深度学习模型在可解释性方面存在的关键空白。
• 通过从复杂交易与图数据中生成人类可读的叙事，简化分析师的调查工作流程。
• 开发一个统一框架，整合来自交易序列、子图结构与自然语言的多模态表征，以提升检测能力与可解释性。
• 通过可解释人工智能（XAI）技术，提升基于人工智能的金融犯罪检测系统的透明度与可信度。
• 评估图神经网络、时序建模与大语言模型在真实世界非法活动检测场景中结合的有效性。

提出的方法

• 该框架采用三重深度学习模型：一个用于使用时序编码建模交易序列，一个用于通过图神经网络（GNNs）建模子图连通性，一个用于使用大语言模型（LLM）生成叙事。
• 交易序列通过时序编码进行嵌入，以捕捉随时间变化的行为模式，从而实现对异常行为的检测。
• 子图连通性通过图神经网络（GNNs）进行建模，以识别暗示非法活动的可疑网络结构与交易聚类。
• 大语言模型（LLM）接收结构化的交易元数据与图嵌入，生成以自然语言形式解释检测到的异常的可读叙事。
• 所有三种模态的输出通过晚期交互机制融合，生成统一且可解释的决策结果，供分析师使用。
• 该框架设计为前瞻性系统，支持早期检测，并提供上下文化解释，以支持调查决策。

实验结果

研究问题

• RQ1 如何有效结合来自交易序列、子图结构与叙事生成的多模态表征，以提升非法活动检测能力？
• RQ2 整合LLM生成的叙事在多大程度上能提升分析师对非法活动异常的理解与决策能力？
• RQ3 统一的图-LLM框架是否能在检测非法金融活动方面优于单模态或不可解释的模型？
• RQ4 时序、结构与语言表征的融合如何提升模型的鲁棒性与可解释性？
• RQ5 可解释人工智能（XAI）组件对调查分析师在金融网络犯罪检测系统中可解释性与信任度的影响如何？

主要发现

• 该多模态图-LLM框架通过结合交易信号、结构信号与叙事信号，在检测非法金融活动方面达到最先进的性能。
• LLM生成的叙事显著提升了分析师对检测到的异常的理解，降低了调查过程中的认知负荷。
• 与基线单模态模型相比，该模型在识别复杂、多阶段非法交易模式方面表现出更优性能。
• 可解释性组件，尤其是叙事生成模块，使分析师能够以高度信心验证并 contextualize（上下文化）模型预测。
• 该框架通过提供可解释、富含上下文的说明，降低了误报率，且与调查工作流程高度契合。
• 实证结果表明，图结构、时序与语言表征的融合，使模型在多样化金融网络模式下具备更强的鲁棒性与泛化能力。