[논문 리뷰] Fake News Mitigation via Point Process Based Intervention

Mehrdad Farajtabar, Jiachen Yang외 7명|arXiv (Cornell University)|2017. 03. 22.

Misinformation and Its Impacts참고 문헌 33인용 수 99

한 줄 요약

논문은 다변수 Hawkes 프로세스를 사용해 가짜뉴스와 완화 이벤트를 모델링하고, 실시간 예산 제약 하에서 개입을 최적화하기 위해 강화 학습을 통합하는 다단계 개입 프레임워크를 제안한다. 또한 실시간 Twitter 실험과 합성 데이터에서 기준선 대비 우수성을 보여준다.

ABSTRACT

We propose the first multistage intervention framework that tackles fake news in social networks by combining reinforcement learning with a point process network activity model. The spread of fake news and mitigation events within the network is modeled by a multivariate Hawkes process with additional exogenous control terms. By choosing a feature representation of states, defining mitigation actions and constructing reward functions to measure the effectiveness of mitigation activities, we map the problem of fake news mitigation into the reinforcement learning framework. We develop a policy iteration method unique to the multivariate networked point process, with the goal of optimizing the actions for maximal total reward under budget constraints. Our method shows promising performance in real-time intervention experiments on a Twitter network to mitigate a surrogate fake news campaign, and outperforms alternatives on synthetic datasets.

연구 동기 및 목표

• 수동 감독 없이 사회 네트워크에서 가짜뉴스를 억제하기 위한 자동 개입 설계의 필요성과 목적을 제시한다.
• 가짜뉴스 확산과 완화를 외생 제어 항을 가진 상호 작용하는 포인트 프로세스로 모델링한다.
• 네트워크화된 MDP와 예산 제약 조건을 가진 강화 학습 문제로 가짜뉴스 완화를 공식화한다.
• 다변수 네트워크 포인트 프로세스에 맞춘 정책 반복 방법을 개발한다.
• 합성 데이터에서 실시간 개입 가능성을 시연하고 기준선과 비교한다.

제안 방법

• 가짜뉴스와 완화를 외생 제어 항이 있는 다변수 Hawkes 프로세스로 모델링한다.
• 가짜뉴스 및 완화 활동의 영향을 정량화하기 위해 이벤트 노출을 BN(t)로 정의한다.
• 완화 문제를 상태 x와 행동 u를 갖는 마코프 결정 과정으로 예산 제약 하에 공식화한다.
• 최근 이벤트 카운트를 기반으로 한 선형 특징 표현을 사용하여 LSTD(Least Squares Temporal Difference) 정책 평가 및 정책 개선을 수행한다.
• 보상 평가를 가능하게 하기 위해 비정상적 Hawkes 프로세스의 1차 및 2차 통계를 도출한다.
• 오프라인 가치 함수 학습과 온라인 실시간 개입의 두 단계 접근법을 구현하고, 완화 노드의 외생 강도를 선택하는 정책을 사용한다.

실험 결과

연구 질문

• RQ1 가짜뉴스 확산과 완화 활동을 연속 시간에서 네트워크 상에서 정확히 공동으로 모델링할 수 있는가?
• RQ2 포인트 프로세스 역학을 사용하여 예산 제약 하에서 완화 영향력을 최적화하는 개입 정책을 설계할 수 있는가?
• RQ3 완화 효과를 가장 잘 포착하는 보상 구조는 무엇인가(예: 완화와 가짜뉴스 노출 간의 상관관계 최대화 또는 비완화 가짜 이벤트의 차이 최소화)?
• RQ4 모델 기반의 LSTD 기반 정책 반복 방식이 Hawkes-프로세스 네트워크의 실시간 개입에 효과적인가?
• RQ5 비정상적 다변수 Hawkes 통계가 정책 평가 및 개선에 어떤 영향을 미치는가?

주요 결과

• 본 프레임워크는 Twitter 네트워크에서 실시간 개입 실험을 가능하게 하고 합성 데이터 세트에서 대안보다 우수하다.
• 비정상적 다변수 Hawkes 프로세스의 2차 통계가 도출되어 정책 평가를 지원한다.
• 상태 표현은 과거 구간의 이벤트 수를 결합하여 네트워크 동역학을 포착하고 정책 학습에 활용한다.
• 모델 기반 개선 단계를 포함한 LSTD 기반 정책 평가가 예산 제약 하에서 수렴하는 정책을 낳는다.
• 보상 함수 선택(상관관계 최대화 및 차이 최소화)은 완화 효과를 위한 유연한 목표를 제공한다.