[논문 리뷰] Using co-sharing to identify use of mainstream news for promoting potentially misleading narratives

Pranav Goel, Jon Green외 2명|arXiv (Cornell University)|2023. 08. 12.

Misinformation and Its Impacts인용 수 5

한 줄 요약

이 논문은 유명한 언론사에서 발표한 주류 뉴스 기사가 트위터에서 가짜 뉴스와 함께 공유되면서 잘못된 메시지를 확산시키는 데 전략적으로 재사용된다는 점을 밝혀낸다. 자연어 처리(NLP) 기법을 활용해 오염된 메시지 내역을 탐지한 결과, 비록 정치적 성향이나 기사의 인기도를 보정한 후에도, 공유된 기사가 공유되지 않은 기사보다 훨씬 더 높은 비율로 오해의 메시지를 포함하고 있음을 입증한다. 이는 사실 기반 보도가 의도하지 않게 위성 정보 유포 캠페인을 강화하는 방식으로 악용될 수 있음을 보여준다.

ABSTRACT

Much of the research quantifying volume and spread of online misinformation measures the construct at the source level, identifying a set of specific unreliable domains that account for a relatively small share of news consumption. This source-level dichotomy obscures the potential for users to repurpose factually true information from reliable sources to advance misleading narratives. We demonstrate this potentially far more prevalent form of misinformation by identifying articles from reliable sources that are frequently co-shared with (shared by users who also shared) "fake" news on social media, and concurrently extracting narratives present in fake news content and claims fact-checked as false. Specifically in this study, we use Twitter/X data from May 2018 to November 2021 matched to a U.S. voter file. We find that narratives present in misinformation content are significantly more likely to occur in co-shared articles than in articles from the same reliable sources that are not co-shared, consistent with users using information from mainstream sources to enhance the credibility and reach of potentially misleading claims.

연구 동기 및 목표

• 신뢰할 수 있는 출처에서 나온 사실 기반 뉴스 기사가 거짓 기사와 함께 트위터에서 공유되는 방식을 조사하는 것.
• 동일한 출판사에서 나온 기사 중 공유된 기사와 공유되지 않은 기사가 얼마나 많은 오해의 메시지 내역을 포함하고 있는지 비교 분석하는 것.
• 공유 현상이 정치적 성향에 따른 선별이나 기사의 인기도 외에 메시지 내용 자체의 영향을 받는지 여부를 규명하는 것.
• 합법적인 뉴스 기사가 온라인 위성 정보 생태계에서 잘못된 메시지의 영향력과 확산 범위를 높이기 위해 어떻게 전략적으로 재사용될 수 있는지 보여주는 것.
• 그래프 기반 방법을 개발하고 적용하여 가짜 뉴스와 비정상적으로 많이 공유되는 기사들을 식별함으로써 내역 수준의 분석이 가능하도록 하는 것.

제안 방법

• 저자들은 가짜 뉴스 기사와 주류 뉴스 기사가 노드로 표현되고, 트위터에서 동일한 사용자에 의해 공유된 횟수에 따라 간선이 가중치가 부여된 그래프 기반 접근법을 사용한다.
• 개별 기사의 확산 정도를 보정하기 위해 통계 모델을 적용하여 비정상적인 공유율을 분리해내는 절차를 수행한다.
• 가짜 주장을 기반으로 한 비구조적 자연어 처리 기법을 사용해 메시지 내역을 추출하고, 오해의 메시지에 해당하는 실체-행위 관계를 식별한다.
• 특정 기사가 가짜 뉴스와 함께 공유된 사용자 비율이 기대되는 공유 비율보다 유의미하게 높을 경우, 해당 기사를 '공유된 기사'로 분류한다.
• 정확도 기준을 엄격히 적용하여 동일한 출판사에서 나온 공유된 기사와 공유되지 않은 기사 간 비교를 통해 정치적 성향에 따른 선별 효과를 보정한다.
• 바이오센트릭 뉴스 기사의 사례 연구를 수행하여, '백신 접종자들이 이제 코로나19 사망자 다수를 차지한다'는 제목의 워싱턴포스트 기사가 백신 반대 네트워크에 의해 비정상적으로 많이 공유된 점을 분석한다.

실험 결과

연구 질문

• RQ1 가짜 뉴스와 함께 공유된 주류 뉴스 기사가 공유되지 않은 기사보다 오해의 메시지 내역을 더 많이 포함하고 있는가?
• RQ2 주류 뉴스 기사가 가짜 뉴스와 함께 공유되는 것은 정치적 성향 또는 기사의 인기도 때문이 아니라 메시지 내용 자체 때문인가?
• RQ3 신뢰할 수 있는 출처에서 나온 사실 기반 뉴스 기사가 온라인 위성 정보 생태계에서 얼마나 많은 비율로 잘못된 메시지 내역을 지지하는 데 재사용될 수 있는가?
• RQ4 가짜 뉴스의 내역적 특징이 트위터에서 합법적인 뉴스 기사와 함께 공유될 때 어떻게 확산되는가?
• RQ5 그래프 기반 방법이 비정상적으로 많이 공유되는 주류 뉴스 기사들을 효과적으로 식별하여 내역 수준의 분석을 가능하게 하는가?

주요 결과

• 정치적 성향과 기사의 인기도를 보정한 후에도, 가짜 뉴스와 함께 공유된 주류 뉴스 기사가 동일한 출판사에서 나온 공유되지 않은 기사보다 오해의 메시지 내역을 유의미하게 더 많이 포함하고 있다.
• 백신 접종자들이 이제 코로나19 사망자 다수를 차지한다'는 제목의 워싱턴포스트 기사는 사실적으로 정확하지만, 백신 반대 가짜 뉴스를 자주 공유한 사용자들 사이에서 비정상적으로 많이 공유되었다.
• 백신 피해 주장이나 선거 부정행위 주장 등 특정 오해의 메시지 내역이 공유 여부를 강력하게 예측했으며, 이는 출판사의 편향성이나 기사의 인기도와는 무관하게 나타났다.
• 공유 현상이 정치적 성향에 따른 선별 때문만은 아니며, 동일한 출판사에서 같은 기사가 정치적 성향에 따라 다르게 작성되더라도, 메시지가 풍부한 기사들만 비정상적으로 많이 공유됨을 확인했다.
• 가짜 주장을 기반으로 318개의 고차원적 오해의 메시지 내역을 식별하였으며, 이는 공유된 주류 기사 콘텐츠에서 내역 재사용을 탐지하고 검증하는 데 활용되었다.
• 연구 결과는 주류 뉴스가 위성 정보의 피해자에 그치지 않고, 오히려 전략적으로 재사용되어 잘못된 메시지의 신뢰성과 영향력 확산을 강화할 수 있음을 시사한다.