[논문 리뷰] Can WhatsApp Counter Misinformation by Limiting Message Forwarding?

Philipe Melo, Carolina Coimbra Vieira외 3명|arXiv (Cornell University)|2019. 09. 18.

Misinformation and Its Impacts인용 수 5

한 줄 요약

이 논문은 브라질, 인도, 인дон네시아에서 수집한 실제 WhatsApp 그룹 데이터를 바탕으로, 가짜정보 확산을 억제하기 위한 WhatsApp의 메시지 전달 제한(5회 전달)을 SEI 전염병학 모델을 사용해 평가한다. 결과적으로 전달 제한은 가짜정보 확산 속도를 최대 두 계단 정도 지연시키지만, 특히 급격히 활성화되는 고참여도 네트워크에서 빠르게 널리 퍼지는 콘텐츠가 수주 내로 큰 규모의 대중에게 도달하는 것을 막지 못함을 보여준다.

ABSTRACT

WhatsApp is the most popular messaging app in the world. The closed nature of the app, in addition to the ease of transferring multimedia and sharing information to large-scale groups make WhatsApp unique among other platforms, where an anonymous encrypted messages can become viral, reaching multiple users in a short period of time. The personal feeling and immediacy of messages directly delivered to the user's phone on WhatsApp was extensively abused to spread unfounded rumors and create misinformation campaigns during recent elections in Brazil and India. WhatsApp has been deploying measures to mitigate this problem, such as reducing the limit for forwarding a message to at most five users at once. Despite the welcomed effort to counter the problem, there is no evidence so far on the real effectiveness of such restrictions. In this work, we propose a methodology to evaluate the effectiveness of such measures on the spreading of misinformation circulating on WhatsApp. We use an epidemiological model and real data gathered from WhatsApp in Brazil, India and Indonesia to assess the impact of limiting virality features in this kind of network. Our results suggest that the current efforts deployed by WhatsApp can offer significant delays on the information spread, but they are ineffective in blocking the propagation of misinformation campaigns through public groups when the content has a high viral nature.

연구 동기 및 목표

• WhatsApp의 5개 메시지 전달 제한이 실질적으로 가짜정보 확산을 억제하는 데 얼마나 효과적인지 평가하기.
• WhatsApp의 공개 그룹 네트워크 내에서의 전파성 특성들이 (가짜)정보의 빠르고 광범위한 확산을 어떻게 가능하게 하는지 이해하기.
• 실제 WhatsApp 데이터와 전염병학적 프레임워크를 활용해 가짜정보 전파의 시간적 동역학을 모델링하기.
• 선거 기간 동안 조작된 가짜정보 캠페인을 방지하기 위해 현재의 기술적 제약 조치가 충분한지 평가하기.
• 일시적인 의심스러운 사용자 격리와 같은 시스템 수준의 개선 조치를 제안하여 플랫폼의 회복력을 높이기.

제안 방법

• 브라질, 인도, 인도네시아에서 공개 그룹과 메시지 전달 패턴에 중점을 두고 실제 WhatsApp 그룹 데이터를 수집.
• 그룹 간 메시지 전달 관계를 기반으로 공개 그룹 네트워크를 재구성.
• 가짜정보가 재구성된 네트워크를 통해 전파되는 것을 시뮬레이션하기 위해 감염자-잠복기-감염자(SEI) 전염병학 모델을 적용.
• 실제 시간 정보를 반영하기 위해 전달 간 간격의 실측 데이터를 바탕으로 '잠복기'를 도입.
• 랜덤, 실측 간격, 그룹 시간 기반의 3가지 시간 전략을 테스트하여 실제 전파 속도를 반영.
• 실제 데이터를 기반으로 분석 시간 단위(분)로 전파 속도를 측정하고, 전달 제한이 감염률과 네트워크 커버리지에 미치는 영향을 비교.

실험 결과

연구 질문

• RQ1 WhatsApp의 5회 전달 제한은 공개 그룹 네트워크 내에서 가짜정보 전파 속도와 규모에 어떤 영향을 미치는가?
• RQ2 WhatsApp 그룹 내 실질적인 전달 패턴이 급격한 전파, 전염병 유사 전파 동역학과 어느 정도 유사한가?
• RQ3 SEI 모델은 WhatsApp 그룹 네트워크 구조 내에서 가짜정보의 감염 시간을 정확하게 시뮬레이션할 수 있는가?
• RQ4 다른 시간 가정(랜덤, 실측, 그룹 시간 기반)이 사용자 대다수에게 도달하는 데 소요되는 시간 추정에 어떤 영향을 미치는가?
• RQ5 어떤 조건에서 현재의 전달 제한이 높은 잠재력의 가짜정보 전파를 막는 데 부적절한가?

주요 결과

• 5회 전달 제한은 원래의 256회 전달 제한 대비 가짜정보 전파 속도를 최대 두 계단 정도 지연시킨다.
• 인도에서는 실측 간격을 사용할 경우, 공개 그룹의 60% 사용자가 200분(3.5시간 미만) 이내에 바이러스성 메시지에 노출됨.
• 브라질에서는 그룹 시간 기반 전략이 적용되어 3,000분(~50시간) 이내에 절반 이상의 사용자가 감염됨으로써, 전달 제한에도 불구하고 빠른 전파가 발생함을 시사.
• 인도네시아에서는 세 가지 시간 전략 모두 유사하고 느린 전파를 보였으며, 2주가 넘게 경과한 후에야 80% 이상의 사용자가 감염됨.
• 지속적인 지연에도 불구하고, 모든 세 국가에서 가짜정보는 여전히 높은 전파성을 보이며, 20%의 메시지가 널리 퍼질 수 있는 시간 동안 지속됨.
• 본 연구는 전달 제한만으로는 특히 선거와 같은 중요한 시기에 조작된 고전파성 가짜정보 캠페인을 효과적으로 방지할 수 없다고 결론 내림.