[논문 리뷰] Mutual Hyperlinking Among Misinformation Peddlers

Vibhor Sehgal, Ankit Peshin외 2명|arXiv (Cornell University)|2021. 04. 20.

Misinformation and Its Impacts참고 문헌 36인용 수 9

한 줄 요약

이 논문은 웹사이트 간 상호 하이퍼링크 패턴과 트위터 사용자들의 링크 공유 행동을 분석함으로써 도메인 수준의 접근 방식을 제안하여 위성 정보 유포자들을 식별하고 그 영향을 줄인다. 연구 결과, 위성 정보 도메인은 신뢰할 수 있는 도메인과의 연결이 적고 서로 간에 밀접하게 연결된 클러스터를 이룬다는 점을 발견하였으며, 일부 사용자들은 이러한 네트워크를 지속적으로 확산시켜 추천 시스템 내에서 식별 및 임계값 하락이 가능하게 한다.

ABSTRACT

The internet promised to democratize access to knowledge and make the world more open and understanding. The reality of today's internet, however, is far from this ideal. Misinformation, lies, and conspiracies dominate many social media platforms. This toxic online world has had real-world implications ranging from genocide to, election interference, and threats to global public health. A frustrated public and impatient government regulators are calling for a more vigorous response to mis- and disinformation campaigns designed to sow civil unrest and inspire violence against individuals, societies, and democracies. We describe a large-scale, domain-level analysis that reveals seemingly coordinated efforts between multiple domains to spread and amplify misinformation. We also describe how the hyperlinks shared by certain Twitter users can be used to surface problematic domains. These analyses can be used by search engines and social media recommendation algorithms to systematically discover and demote misinformation peddlers.

연구 동기 및 목표

• 소셜 미디어 알고리즘을 악용해 거짓 정보와 음모론을 광범위하게 퍼뜨리는 조직적 위성 정보 캠페인의 증가하는 위협에 대응하기 위해.
• 일반적인 포스트 단위의 사실 확인 방식이 스케일에 비해 효과적이지 못하므로, 이를 보완할 수 있는 확장 가능한 도메인 수준의 탐지 기법을 개발하기 위해.
• 위성 정보 도메인과 신뢰할 수 있는 정보 도메인을 구분할 수 있는 하이퍼링크 네트워크의 구조적 패턴을 규명하기 위해.
• 위성 정보 도메인에 링크를 지속적으로 공유하는 '초확산자' 트위터 사용자를 규명하기 위해.
• 검색 엔진과 추천 알고리즘에서 구조적 및 행동적 신호를 바탕으로 전체 위성 정보 네트워크를 감소시킬 수 있는 도구를 제공하기 위해.

제안 방법

• 상호 하이퍼링크를 기반으로 도메인 수준의 하이퍼링크 네트워크를 구축하며, 연결을 정의하기 위해 자카드 유사도 기준을 1%로 설정한다.
• 트위터 사용자 데이터에서 동일한 사용자가 공유한 도메인 간의 연결을 기반으로 소셜 미디어 링크 공유 네트워크를 구축한다.
• 특히 위성 정보 도메인이 지배하는 도메인 집합의 내부 연결성이 높은 클러스터를 식별하기 위해 커뮤니티 탐지 기법을 적용한다.
• 하이퍼링크 패턴과 트위터 사용자 참여 지표를 기반으로 도메인이 위성 정보 도메인인지 예측하는 이진 분류기 학습.
• 여러 위성 정보 도메인에 높은 빈도로 링크를 공유하는 사용자를 식별하기 위해 임계값 기반 접근 방식을 활용한다.
• 식별된 구조적 및 행동적 패턴을 활용하여 추천 시스템 내에서 전체 위성 정보 네트워크의 감소를 제안한다.

실험 결과

연구 질문

• RQ1 위성 정보 도메인은 정보 도메인과의 연결보다 상호 하이퍼링크 패턴이著しく 강한가?
• RQ2 도메인의 하이퍼링크 패턴만으로도 그 도메인이 위성 정보 유포자일 가능성을 예측할 수 있는가?
• RQ3 여러 위성 정보 도메인에 지속적으로 링크를 공유하는 특정 트위터 사용자가 존재하는가, 이는 초확산자 행동을 시사하는가?
• RQ4 하이퍼링크 패턴과 소셜 미디어 공유 행동을 조합하여 위성 정보 도메인을 효과적으로 식별할 수 있는 분류기를 학습할 수 있는가?
• RQ5 위성 정보 네트워크는 보편적인 웹과는 다를 만큼 응집적이고 고립된 공동체를 형성하는가?

주요 결과

• 위성 정보 도메인은 상호 하이퍼링크 패턴이著しく 강하며, 131개 도메인의 가장 큰 공동체 중 89.3%가 위성 정보 도메인이고, 46개 도메인 공동체 중 91.3%가 위성 정보 도메인이다.
• 위성 정보 도메인은 평균 7.55개의 내부 연결을 가지며 외부 연결은 1.57개 뿐이지만, 정보 도메인은 각각 1.00개와 0.86개의 연결을 가진다.
• 기후 변화 부정론 도메인 14개로 구성된 공동체(예: wattsupwiththat.com 포함)는 매우 밀접하게 연결된 네트워크를 형성했으며, 이 중 13개가 위성 정보 도메인이다.
• 일부 트위터 사용자들은 여러 위성 정보 도메인에 대해 예측 가능하고 높은 빈도로 링크를 공유하는 패턴을 보이며, 이는 초확산자 행동을 시사한다.
• 하이퍼링크 구조만으로도 위성 정보 상태를 높은 정확도로 예측할 수 있어, 포스트 단위 분석 없이도 확장 가능한 탐지가 가능하다.
• 연구는 위성 정보 도메인과 정보 도메인 사이에 명확한 구조적 갈림길을 규명하였으며, 위성 정보 네트워크는 고립되고 상호 강화되는 클러스터를 형성한다.