[논문 리뷰] Preventing the Spread of Online Harms: Physics of Contagion across Multi-Platform Social Media and Metaverses

Xu Chen, P. M. Hui외 3명|arXiv (Cornell University)|2022. 01. 12.

Misinformation and Its Impacts인용 수 4

한 줄 요약

이 논문은 다중 플랫폼 소셜 미디어 및 메타버스를 통한 온라인 해로움 전파의 물리 기반 모델을 개발하며, 동적 클러스터링, 플랫폼 이질성, 표적형 모더레이터 조치를 통합한다. 온라인 'R-제로' 기준을 유도하고 재입성 전파 단계를 예측하며, 온라인 군집 면역을 위한 디지털 백신 접종 임계값을 정량화한다.

ABSTRACT

We present a minimal yet empirically-grounded theory for the spread of online harms (e.g. misinformation, hate) across current multi-platform social media and future Metaverses. New physics emerges from the interplay between the intrinsic heterogeneity among online communities and platforms, their clustering dynamics generated through user-created links and sudden moderator shutdowns, and the contagion process. The theory provides an online `R-nought' criterion to prevent system-wide spreading; it predicts re-entrant spreading phases; it establishes the level of digital vaccination required for online herd immunity; and it can be applied at multiple scales.

연구 동기 및 목표

• 연결된 소셜 미디어 플랫폼과 미래의 메타버스를 통해 확산되는 온라인 해로움(예: 오락성 정보 및 증오 발언)의 최소화되면서도 경험적으로 기반을 둔 이론을 개발하기 위해.
• 동적 네트워크 구조와 표적형 모더레이터 간섭 상황에서 대규모 전파 역학을 이해하기 위한 체계적 프레임워크의 부재를 보완하기 위해.
• 전체 시스템 전파를 방지하기 위한 정량적 기준을 도출하기 위해, 전염병학적 R₀와 유사한 기준을 플랫폼 및 스케일 전반에 적용 가능하도록 하기 위해.
• 온라인 군집 면역을 달성하고 대규모 해로움 전파를 방지하기 위해 필요한 디지털 백신 접종 수준(예: 반론 메시지)을 정량화하기 위해.
• 플랫폼 특유의 역학, 예를 들어 링크 형성 빈도와 클러스터링 행동의 차이가 온라인 생태계의 복원력에 어떻게 영향을 미치는지 탐색하기 위해.

제안 방법

• Eq. 1에 제시된 마스터 방정식을 활용하여, 플랫폼 특유의 분열 및 융합 비율을 포함한 노드 간 클러스터 소속 확률의 시간 진화를 모델링한다.
• 정 steady-state 평균화(식 2)를 사용하여, 플랫폼 비율과 종 간 및 종 내 링크 역학에 의존하는 전체 시스템의 클러스터 연결성 측도를 도출한다.
• 일반화된 'R-제로' 기준(식 4)을 도입하여 링크 형성 및 분열 비율에 기반해 전체 시스템 전파의 임계값을 결정한다.
• 모델을 세 가지 별개의 사례에 적용한다: (I) 종 간 동일한 링크 형성, (II) 플랫폼에 따라 다름(예: 페이스북 대 비트래블), (III) 감염 확률 감소를 통한 디지털 백신 접종.
• 전체 시스템 전파를 방지하기 위한 임계 백신 접종 임계값(식 6)을 유도하며, 이는 감염률, 회복률 및 백신 효과율에 따라 달라진다.
• 수치 시뮬레이션과 단계도(예: 그림 2, 3, 4)를 활용하여 다양한 매개변수에서 전파 경계 및 재입성 단계 전이를 시각화한다.

실험 결과

연구 질문

• RQ1 다중 플랫폼 소셜 미디어 및 메타버스를 통해 온라인 해로움이 전면적으로 확산될 수 있는 임계 조건은 무엇인가?
• RQ2 동적 클러스터링과 해로운 커뮤니티의 갑작스러운 모더레이터 정지가 재입성 전파 단계의 발생에 어떻게 영향을 미치는가?
• RQ3 온라인 군집 면역을 달성하고 대규모 전파를 방지하기 위해 필요한 디지털 백신 접종 수준(예: 반론 메시지)은 어느 정도인가?
• RQ4 플랫폼 특유의 링크 형성 빈도는 플랫폼의 외부 해로움 전파에 대한 복원력에 어떻게 영향을 미치는가?
• RQ5 한 플랫폼이나 노드 종에 대한 표적형 백신 접종이 유해 콘텐츠를 다른 보호 수준이 낮은 플랫폼으로 유도하는 데 간접적으로 기여할 수 있는가?

주요 결과

• 모델은 전파 행동에 대해 재입성 단계 전이를 예측한다: 특정 플랫폼이 낮은 인지도를 가질 땐 전파가 발생하지 않지만, 인지도가 증가함에 따라 고정된 링크 형성 비율 조건에서도 다시 전파 단계로 진입할 수 있다.
• 전체 시스템 전파가 발생하지 않기 위해서는 주요 플랫폼(예: R)의 노드 비율이 매개변수 공간 내 특정 반타원형 영역에 있어야 하며, 이는 광범위한 격리 조치 없이도 표적형 개입이 가능함을 시사한다.
• 온라인 군집 면역의 임계 조건은 식 6에 의해 정량화된다: 최소한의 노드 비율이 백신을 투여해야 하며, 백신 효과율(1−φ)이 높을수록 필요한 비율이 감소한다.
• 한 플랫폼(예: B)의 모든 노드에 백신을 투여하더라도 전체 전파 영역이 크게 감소하지 않으며, 이는 해로운 콘텐츠가 단지 다른 보호 수준이 낮은 플랫폼으로 재집중될 수 있음을 시사한다.
• 모델은 링크 형성 빈도가 낮은 플랫폼(예: 갑 vs. 페이스북)이 전체 네트워크에 포함되어 있더라도 전체 시스템 전파를 유지하기 어려운 것으로 나타났다.
• 실제 코로나19 오락성 정보 전파 데이터(그림 1b,c)는 단 두 가지 매개변수 조합만으로도 모델에 잘 맞아떨어지며, 최소한의 가정으로도 예측 능력이 입증된다.