[논문 리뷰] Can WhatsApp Benefit from Debunked Fact-Checked Stories to Reduce Misinformation?

Júlio C. S. Reis, Philipe Melo외 2명|arXiv (Cornell University)|2020. 06. 03.

Misinformation and Its Impacts인용 수 11

한 줄 요약

이 논문은 엔드 투 엔드 암호화를 해체하지 않으면서도 실시간으로 이전에 반박된 가짜 정보 이미지를 탐지하고 경고하는, 개인정보 보호를 고려한 디바이스 내에서 작동하는 사실 확인 아키텍처를 제안한다. 퍼셉추얼 해싱을 활용하여 이를 달성한다. 브라질과 인도에서 각각 40.7%와 82.2%의 가짜 정보 공유가 사실 확인 이후 발생한 것으로 나타나, 사전 탐지로 확산을 방지할 수 있는 중요한 기회를 놓쳤음을 시사한다.

ABSTRACT

WhatsApp was alleged to be widely used to spread misinformation and propaganda during elections in Brazil and India. Due to the private encrypted nature of the messages on WhatsApp, it is hard to track the dissemination of misinformation at scale. In this work, using public WhatsApp data, we observe that misinformation has been largely shared on WhatsApp public groups even after they were already fact-checked by popular fact-checking agencies. This represents a significant portion of misinformation spread in both Brazil and India in the groups analyzed. We posit that such misinformation content could be prevented if WhatsApp had a means to flag already fact-checked content. To this end, we propose an architecture that could be implemented by WhatsApp to counter such misinformation. Our proposal respects the current end-to-end encryption architecture on WhatsApp, thus protecting users' privacy while providing an approach to detect the misinformation that benefits from fact-checking efforts.

연구 동기 및 목표

• 세계 각지의 제3자 기관에 의해 사실 확인된 후에도 가짜 정보가 WhatsApp에서 계속 퍼지는가를 조사하는 것.
• 공개된 사실 확인 데이터를 활용해 WhatsApp에서 이미 반박된 콘텐츠를 사전에 탐지하고 차단하는 것이 가능한가 평가하는 것.
• 엔드 투 엔드 암호화를 훼손하지 않으면서도 알려진 가짜 정보를 탐지할 수 있도록 개인정보 보호를 고려한 아키텍처를 설계하는 것.
• 기존의 사실 확인 노력들을 활용해 암호화된 메시징 플랫폼에서의 가짜 정보 확산을 줄일 수 있는 잠재력을 평가하는 것.

제안 방법

• 국회의원 선거 기간 동안 브라질과 인도의 공개 WhatsApp 그룹 데이터를 수집하여 이미지 기반의 가짜 정보에 집중했다.
• 브라질 및 인도의 사실 확인 기관으로부터 135개의 사실 확인된 가짜 정보 이미지와 관련된 반박 일자를 확보한 데이터셋을 확보했다.
• 최신 기술인 PDQ 해싱을 적용하여 WhatsApp 데이터 내에서 사실 확인된 이미지의 근접한 동일 또는 변형된 버전을 탐지했다.
• 역 이미지 검색과 수동 검증을 통해 사실 확인된 콘텐츠의 정확한 레이블링 및 WhatsApp 데이터셋 내 매칭 결과의 유효성을 검증했다.
• WhatsApp 클라이언트가 사용자 기기 내에 저장된 암호화된 해시 데이터베이스를 기반으로 들어오는 공유 콘텐츠를 비교함으로써, 사전에 탐지하는 디바이스 내 아키텍처를 제안했다.
• 서버 측 콘텐츠 검사를 하지 않고도 사용자 기기에서 로컬으로 매칭을 수행함으로써 엔드 투 엔드 암호화를 존중하는 시스템을 설계했다.

실험 결과

연구 질문

• RQ1 전문 기관에 의해 사실 확인되고 반박된 후에도 가짜 정보가 WhatsApp에서 얼마나 퍼지는가?
• RQ2 WhatsApp는 기존의 사실 확인 노력들을 어떻게 활용하여 이미 반박된 콘텐츠의 확산을 방지할 수 있는가?
• RQ3 엔드 투 엔드 암호화된 메시징 앱에서 알려진 가짜 정보를 탐지할 수 있는 개인정보 보호를 고려한 시스템을 구현하는 것이 가능한가?
• RQ4 WhatsApp 공개 그룹에서 콘텐츠가 사실 확인 기관에 의해 거짓으로 레이블링된 후 공유된 가짜 정보 공유 비율은 얼마인가?

주요 결과

• 브라질의 WhatsApp 공개 그룹에서 사실 확인된 가짜 정보 이미지 공유의 40.7%가 사실 확인 이후 발생했으며, 이는 사실 확인 이후에도 광범위하게 퍼지는 것을 시사한다.
• 인도의 WhatsApp 공개 그룹에서 사실 확인된 가짜 정보 이미지 공유의 82.2%가 사실 확인된 후 공유되었으며, 이는 콘텐츠 모니터링의 심각한 격차를 드러낸다.
• 거짓으로 레이블링된 후에도 상당수의 가짜 정보가 WhatsApp에서 널리 유통되고 있음을 고려할 때, 공개적 사실 확인만으로는 확산을 막는 데 부족함을 시사한다.
• 퍼셉추얼 해싱(PDQ)을 활용한 탐지 기술이 WhatsApp 데이터 내에서 사실 확인된 이미지의 근접한 동일 또는 변형된 버전을 성공적으로 탐지하여 기술적 타당성을 입증했다.
• 제안된 디바이스 내 아키텍처는 엔드 투 엔드 암호화를 해체하지 않으면서도 알려진 가짜 정보를 탐지할 수 있어 사용자 개인정보 보호를 유지한다.
• 이 연구에서 확보한 사실 확인된 이미지 데이터셋과 WhatsApp 그룹 데이터는 현재까지 공개된 바에서 가장 큰 샘플로, WhatsApp에서의 가짜 정보 유통 흐름을 분석하는 데 기여한다.