[논문 리뷰] BotMoE: Twitter Bot Detection with Community-Aware Mixtures of Modal-Specific Experts

Yuhan Liu, Zhaoxuan Tan외 4명|arXiv (Cornell University)|2023. 04. 13.

Misinformation and Its Impacts인용 수 4

한 줄 요약

BotMoE는 위상, 텍스트 콘텐츠, 그래프 구조를 종합적으로 모델링하는 커뮤니티 인식 혼합 전문가 프레임워크를 제안한다. 이는 위조된 트위터 봇을 탐지하기 위해 개선된 일반화 능력과 강건성을 확보한다. 세 가지 벤치마크에서 최신 기술을 초월하는 성능을 달성하면서도 변조된 특징과 다양한 커뮤니티를 더 잘 다루고 있다.

ABSTRACT

Twitter bot detection has become a crucial task in efforts to combat online misinformation, mitigate election interference, and curb malicious propaganda. However, advanced Twitter bots often attempt to mimic the characteristics of genuine users through feature manipulation and disguise themselves to fit in diverse user communities, posing challenges for existing Twitter bot detection models. To this end, we propose BotMoE, a Twitter bot detection framework that jointly utilizes multiple user information modalities (metadata, textual content, network structure) to improve the detection of deceptive bots. Furthermore, BotMoE incorporates a community-aware Mixture-of-Experts (MoE) layer to improve domain generalization and adapt to different Twitter communities. Specifically, BotMoE constructs modal-specific encoders for metadata features, textual content, and graphical structure, which jointly model Twitter users from three modal-specific perspectives. We then employ a community-aware MoE layer to automatically assign users to different communities and leverage the corresponding expert networks. Finally, user representations from metadata, text, and graph perspectives are fused with an expert fusion layer, combining all three modalities while measuring the consistency of user information. Extensive experiments demonstrate that BotMoE significantly advances the state-of-the-art on three Twitter bot detection benchmarks. Studies also confirm that BotMoE captures advanced and evasive bots, alleviates the reliance on training data, and better generalizes to new and previously unseen user communities.

연구 동기 및 목표

• 고도로 발전한 트위터 봇이 메타데이터, 텍스트, 네트워크 특징을 조작하여 탐지 회피를 시도하는 문제를 해결하기 위해.
• 봇 행동이 상당히 다를 수 있는 다양한 트위터 사용자 커뮤니티 간에서 모델의 일반화 능력을 향상시키기 위해.
• 다중 모달 융합을 통해 데이터 효율성을 향상시켜 대규모 레이블링된 훈련 데이터에 대한 의존도를 줄이기 위해.
• 새로운 커뮤니티에 적응하고 정교한 봇 위장 기법을 회피할 수 있는 더 강건한 탐지 프레임워크를 개발하기 위해.

제안 방법

• BotMoE는 사용자 메타데이터, 텍스트 콘텐츠, 그래프 구조를 각각 독립적으로 처리하기 위해 세 가지 모달 전용 인코더를 활용한다.
• 커뮤니티 인식 혼합 전문가(MoE) 레이어는 사용자의 구조적 및 행동적 특징에 기반해 사용자를 커뮤니티별 전문가 네트워크로 동적으로 라우팅한다.
• 각 전문가 네트워크는 특정 커뮤니티 내에서 봇 패턴을 탐지하는 데 전문성을 기르며, 국지적 탐지 정확도와 도메인 적응 능력을 향상시킨다.
• 전문가 융합 레이어는 모든 모달리티의 표현을 통합하고, 다중 모달 일致성 측정을 통해 탐지 신뢰도를 향상시킨다.
• 라우팅 메커니즘은 그래프 구조에서 유도된 커뮤니티 임베딩을 기반으로 사용자를 가장 관련성이 높은 전문가에게 할당하도록 학습한다.
• 모델은 다중 모달 표현 간의 정렬을 장려하고 일반화 능력을 향상시키기 위해 대trastive 손실을 사용하여 엔드 투 엔드로 훈련된다.

실험 결과

연구 질문

• RQ1 다중 모달, 커뮤니티 인식 모델이 기존의 단일 또는 이중 모달 접근 방식보다 고도로 발전한 트위터 봇 탐지에서 뛰어난 성능을 보일 수 있는가?
• RQ2 추론 도중에 이전에 본 적이 없는 사용자 커뮤니티에 대해 커뮤니티 인식 MoE 레이어가 얼마나 효과적으로 적응할 수 있는가?
• RQ3 높은 탐지 정확도를 유지하면서도 대규모 레이블링된 훈련 데이터에 대한 의존도를 얼마나 줄일 수 있는가?
• RQ4 다양한 모달리티(텍스트, 메타데이터, 그래프)는 탐지에 어떤 기여를 하는가? 모델은 가장 정보성 있는 특징을 식별할 수 있는가?
• RQ5 특징 조작이 모델 성능에 어떤 영향을 미치며, 다중 모달 일치성 모델링을 통해 BotMoE는 얼마나 잘 회피를 방지하는가?

주요 결과

• BotMoE는 세 가지 주요 트위터 봇 탐지 벤치마크에서 최신 기술을 상회하는 성능을 달성했으며, F1 점수와 AUC에서 기존 방법을 크게 앞서 간다.
• 모델은 새로운, 이전에 본 적이 없는 사용자 커뮤니티로의 일반화 능력이 뛰어나 강력한 도메인 적응 능력을 보여준다.
• 광범위한 아블레이션 연구를 통해 커뮤니티 인식 MoE 레이어와 전문가 융합 메커니즘이 성능에 결정적인 영향을 미치며, 특히 특징 조작 처리에 있어 중요하다는 점을 확인했다.
• 융합 레이어의 어텐션 웨이트는 메타데이터와 그래프 특징이 텍스트보다 더 신뢰할 수 있음을 보여주며, 다중 모달 일치성의 중요성을 강조한다.
• 텍스트 콘텐츠가 오염되거나 진짜 사용자로부터 도용된 경우에도 구조적 및 메타데이터 신호를 활용함으로써 가짜 경고를 줄였다.
• 모델은 제한된 레이블링 데이터로도 높은 성능를 유지함으로써 데이터 효율성이 향상되었으며, 이는 실세계 적용에 매우 중요하다.