[논문 리뷰] Counterfactual Neural Temporal Point Process for Estimating Causal Influence of Misinformation on Social Media

Yizhou Zhang, Defu Cao외 1명|arXiv (Cornell University)|2022. 10. 14.

Misinformation and Its Impacts인용 수 6

한 줄 요약

이 논문은 신경망과 가우시안 믹스처 모델을 사용하여 이벤트 발생 시점과 콘텐츠 특징을 분리함으로써 소셜 미디어에서 가짜 정보가 사용자 행동에 미치는 인과적 영향을 추정하기 위해 반사적 신경 시계점과정(C-NTPP) 모델을 제안한다. 실제 코로나19 백신 데이터셋을 대상으로 평가한 결과, 가짜 정보가 사용자들의 백신에 대한 감성에 인과적으로 영향을 줄 수 있음을 확인하여 백신 회피 심리에 기여할 수 있음을 뒷받침한다.

ABSTRACT

Recent years have witnessed the rise of misinformation campaigns that spread specific narratives on social media to manipulate public opinions on different areas, such as politics and healthcare. Consequently, an effective and efficient automatic methodology to estimate the influence of the misinformation on user beliefs and activities is needed. However, existing works on misinformation impact estimation either rely on small-scale psychological experiments or can only discover the correlation between user behaviour and misinformation. To address these issues, in this paper, we build up a causal framework that model the causal effect of misinformation from the perspective of temporal point process. To adapt the large-scale data, we design an efficient yet precise way to estimate the Individual Treatment Effect(ITE) via neural temporal point process and gaussian mixture models. Extensive experiments on synthetic dataset verify the effectiveness and efficiency of our model. We further apply our model on a real-world dataset of social media posts and engagements about COVID-19 vaccines. The experimental results indicate that our model recognized identifiable causal effect of misinformation that hurts people's subjective emotions toward the vaccines.

연구 동기 및 목표

• 소셜 미디어에서 가짜 정보 영향에 대한 인과 추정 방법의 부족, 특히 상관관계 기반 접근 방식을 초월한 방법의 부족을 해결하기 위해.
• 지속적인 특징을 갖는 시계점과정을 사용하여 가짜 정보 참여가 사용자 행동에 미치는 인과 효과를 모델링하기 위해.
• 대규모 소셜 미디어 데이터에서 개인 치료 효과(ITE)를 효율적이고 정확하며 편향이 없는 방식으로 추정하는 방법을 개발하기 위해.
• 정보 코코넛과 같은 데이터 편향을 신경 시계점과정 프레임워크 내에서 적대적 훈련을 통해 완화하기 위해.
• 플랫폼 및 연구자들이 고영향도 가짜 정보를 식별하고 대응 전략을 개선할 수 있도록 데이터 기반 도구를 제공하기 위해.

제안 방법

• 가짜 정보 참여를 치료로, 사용자의 원본 게시물에 대한 향후 조건부 강도 함수를 결과로 하는 인과적 구조를 수식화하기 위해.
• 강도 함수의 변화를 물리적 의미를 갖는 해석 가능한 벡터 표현으로 매핑하는 기능을 설계하기 위해.
• 폐쇄형 기대치 추정을 위해 시계점과정(모델링된 TPP)을 통해 이벤트 발생 시점과 가우시안 믹스처 모델(GMM)을 통해 게시물 특징을 분리하는 신경 시계점과정 모델을 개발하기 위해.
• 시간에 따라 변화하는 치료 요소와 사용자 공변량, 이력 간의 상관관계를 제거하여 정보 코코넛에서 기인하는 편향을 줄이기 위해 적대적 훈련을 사용하기 위해.
• 은닉된 데이터 편향을 최소화하는 균형 잡힌 해를 달성하기 위해 인코더와 치료 예측기 간의 최소-최대 게임을 최적화하기 위해.
• 각 재게시 이벤트에 대해 반사적 추론을 적용하여 개인 치료 효과(ITE)를 추정하고 감성 및 주관성에 대한 인과적 영향 분석을 가능하게 하기 위해.

실험 결과

연구 질문

• RQ1 대규모 소셜 미디어에서 상관관계를 초월해 가짜 정보가 사용자 행동에 미치는 인과 효과를 추정할 수 있는가?
• RQ2 지속적인 특징을 갖는 시계점과정을 사용하여 가짜 정보가 사용자들의 향후 게시 행동에 미치는 인과적 영향을 어떻게 모델링할 수 있는가?
• RQ3 가짜 정보가 소셜 미디어에서 사용자들의 백신에 대한 감성과 주관성에 얼마나 인과적으로 영향을 미치는가?
• RQ4 적대적 훈련을 통해 신경 시계점과정 모델에서 정보 코코넛에서 기인하는 편향을 효과적으로 줄일 수 있는가?
• RQ5 모델의 인과 추정은 다양한 유형의 가짜 정보와 소셜 미디어 주제에 걸쳐 얼마나 신뢰할 수 있고 일반화 가능한가?

주요 결과

• 모델은 가짜 정보가 코로나19 백신에 대한 사용자 감성에 인과적으로 영향을 줄 수 있음을 성공적으로 규명하였으며, 가짜 뉴스는 일관되게 감성 점수를 낮춘다.
• 가짜 정보는 사용자들의 주관성 점수에 유의미한 영향을 주지 않지만, 감성에 더 부정적인 태도로의 이동을 유도한다.
• 진실된 뉴스는 사용자들의 백신에 대한 감성을 높이며, 이는 대중 인식에 긍정적인 영향을 미친다는 것을 시사한다.
• 합성 데이터에서 모델의 ITE 추정은 강건하며, 인과 추론에서 높은 효율성과 효과성을 보여준다.
• 실제 투터 데이터에서 모델은 가짜 정보의 식별 가능한 인과 효과를 탐지하였으며, 백신 회피 심리에 기여한다는 것을 뒷받침한다.
• 모델의 예측은 해로운 서사에 가장 영향을 받는 사용자를 식별함으로써 타겟화된 가짜 정보 완화에 도움을 줄 수 있다.