[논문 리뷰] RF-GNN: Random Forest Boosted Graph Neural Network for Social Bot Detection

Shuhao Shi, Kai Qiao외 4명|arXiv (Cornell University)|2023. 04. 14.

Network Security and Intrusion Detection인용 수 5

한 줄 요약

이 논문은 사회적 봇 탐지에 적합한 새로운 Random Forest 기반 그래프 신경망(RF-GNN)을 제안한다. 이는 앙상블 프레임워크 내에서 GNN을 기본 분류기로 통합한 것으로, 노드 샘플링, 특성 선택, 엣지 드롭아웃을 통해 다양한 부분그래프를 구성하고, GNN과 FCN의 출력을 정렬함으로써 모델의 강건성과 정확도를 향상시킨다. 이는 기준 데이터셋에서 최신 GNN 기반 기준 모델들을 능가한다.

ABSTRACT

The presence of a large number of bots on social media leads to adverse effects. Although Random forest algorithm is widely used in bot detection and can significantly enhance the performance of weak classifiers, it cannot utilize the interaction between accounts. This paper proposes a Random Forest boosted Graph Neural Network for social bot detection, called RF-GNN, which employs graph neural networks (GNNs) as the base classifiers to construct a random forest, effectively combining the advantages of ensemble learning and GNNs to improve the accuracy and robustness of the model. Specifically, different subgraphs are constructed as different training sets through node sampling, feature selection, and edge dropout. Then, GNN base classifiers are trained using various subgraphs, and the remaining features are used for training Fully Connected Netural Network (FCN). The outputs of GNN and FCN are aligned in each branch. Finally, the outputs of all branches are aggregated to produce the final result. Moreover, RF-GNN is compatible with various widely-used GNNs for node classification. Extensive experimental results demonstrate that the proposed method obtains better performance than other state-of-the-art methods.

연구 동기 및 목표

• 사용자 상호작용 관계를 忽시하는 전통적 특성 기반 봇 탐지 방법의 한계를 해결하기 위해.
• 적대적 및 변화하는 봇 행동에 대한 단독 GNN의 강건성 부족 문제를 해결하기 위해.
• 앙상블 학습(RF)과 그래프 신경망(GNN)의 장점을 융합하여 탐지 성능을 향상시키기 위해.
• 노드 분류 작업에 적합한 다양한 GNN 백본과 호환 가능한 유연한 프레임워크를 설계하기 위해.
• 새로운 출력 정렬 메커니즘을 통해 기각된 특성을 효과적으로 활용함으로써 모델 강건성을 향상시키기 위해.

제안 방법

• 기존 사회적 그래프에 노드 샘플링, 특성 선택, 엣지 드롭아웃을 적용하여 훈련을 위한 다양한 부분그래프를 구성한다.
• 남은 특성을 입력으로 사용하는 완전 연결 신경망(FCN)과 함께, 서로 다른 부분그래프에서 다수의 GNN 기본 분류기를 훈련시킨다.
• GNN 및 FCN 브랜치의 예측을 융합하는 출력 정렬 메커니즘을 구현하여 특성 활용도를 향상시킨다.
• 랜덤 포레스트 앙상블에서 일반적인 투표 메커니즘을 사용해 모든 브랜치의 예측을 집계한다.
• GNN 아키텍처를 상호 교체 가능한 기본 분류기로 간주함으로써 다양한 GNN 아키텍처와의 호환성을 확보한다.
• 랜덤 포레스트의 앙상블 특성을 활용하여 과적합을 줄이고 부분그래프 변화에 대한 강건성을 향상시킨다.

실험 결과

연구 질문

• RQ1 랜덤 포레스트 프레임워크 내에서 GNN을 기본 분류기로 통합할 경우 사회적 봇 탐지 성능이 향상되는가?
• RQ2 노드 샘플링, 특성 선택, 엣지 드롭아웃을 통한 부분그래프 다양성이 모델의 강건성과 정확도에 어떤 영향을 미치는가?
• RQ3 제안된 출력 정렬 메커니즘이 GNN 훈련 중 기각된 특성을 활용함으로써 성능 향상에 어느 정도 기여하는가?
• RQ4 RF-GNN 프레임워크는 다양한 기준 데이터셋에서 최신 GNN 기반 기준 모델들을 일관되게 능가하는가?
• RQ5 사회적 봇 탐지 맥락에서 다양한 GNN 아키텍처에 대해 이 프레임워크는 얼마나 잘 일반화되는가?

주요 결과

• RF-GNN은 여러 공개 사회적 봇 탐지 기준 데이터셋에서 최신 GNN 기반 기준 모델들을 능가하는 뛰어난 성능을 달성한다.
• 제안된 출력 정렬 메커니즘이 GNN 훈련 중 기각된 특성을 효과적으로 활용함으로써 모델의 강건성을 크게 향상시킨다.
• 노드 샘플링, 특성 선택, 엣지 드롭아웃을 통한 부분그래프 구성은 다양한 기본 분류기를 생성하여 앙상블 일반화 능력을 향상시킨다.
• 프레임워크는 다양한 널리 사용되는 GNN 모델과 강한 호환성을 보이며, 그 유연성과 확장성을 확인한다.
• 광범위한 실험을 통해 RF-GNN이 다양한 데이터셋과 설정에서 일관되게 탐지 정확도와 강건성을 향상시킴을 확인한다.
• 소스 코드, 데이터, 아티팩트는 https://github.com/GraphDetec/RF-GNN 에 공개되어 있어 재현성과 향후 연구를 지원한다.