[논문 리뷰] The Game Theory of Fake News

Alexander J. Stewart, Antonio A. Arechar외 2명|arXiv (Cornell University)|2021. 08. 31.

Misinformation and Its Impacts인용 수 4

한 줄 요약

이 논문은 뉴스 참여에 대한 게임 이론 모델을 개발하여, 진실을 추구하는 소비자들도 전략적 위성 정보 확산으로 인해 가짜 뉴스에 더 높은 참여를 보일 수 있음을 보여준다. 20,000건의 정확도 평가와 페이스북 참여 데이터를 바탕으로 한 실증적 분석은 위성 정보 사이트가 정확도가 낮은 콘텐츠로 더 많은 참여를 이끌어내고 있음을 시사한다—사용자들이 정확도를 선호한다고 말함에도 불구하고—이로써 드러난 행동과 진정한 선호 간의 심각한 괴리가 드러난다.

ABSTRACT

A great deal of empirical research has examined who falls for misinformation and why. Here, we introduce a formal game-theoretic model of engagement with news stories that captures the strategic interplay between (mis)information consumers and producers. A key insight from the model is that observed patterns of engagement do not necessarily reflect the preferences of consumers. This is because producers seeking to promote misinformation can use strategies that lead moderately inattentive readers to engage more with false stories than true ones -- even when readers prefer more accurate over less accurate information. We then empirically test people's preferences for accuracy in the news. In three studies, we find that people strongly prefer to click and share news they perceive as more accurate -- both in a general population sample, and in a sample of users recruited through Twitter who had actually shared links to misinformation sites online. Despite this preference for accurate news -- and consistent with the predictions of our model -- we find markedly different engagement patterns for articles from misinformation versus mainstream news sites. Using 1,000 headlines from 20 misinformation and 20 mainstream news sites, we compare Facebook engagement data with 20,000 accuracy ratings collected in a survey experiment. Engagement with a headline is negatively correlated with perceived accuracy for misinformation sites, but positively correlated with perceived accuracy for mainstream sites. Taken together, these theoretical and empirical results suggest that consumer preferences cannot be straightforwardly inferred from empirical patterns of engagement.

연구 동기 및 목표

• 위성 정보 확산 과정에서 뉴스 제작자와 소비자 간의 전략적 상호작용을 모델링하기.
• 참여 패턴이 실제 정확도 선호도를 잘못 반영할 수 있는 이유를 조사하기.
• 위성 정보를 공유한 바 있는 사용자들이 제어 실험에서 여전히 정확한 콘텐츠를 선호하는지 테스트하기.
• 정치적 파벌 정체성이 정확도 인식과 참여 간 관계를 조절하는지 조사하기.

제안 방법

• 진실과 가짜 뉴스 사이의 전략적 선택을 모델링하기 위해 전송자(뉴스 매체)와 수신자(청중)로 구성된 게임 이론적 '위성 정보 게임'을 개발함.
• 수신자가 과거 전송자 행동과 정확도 인식을 바탕으로 신뢰를 갱신하기 위해 소음이 있는, 일시적인 최적화를 사용한다고 가정함.
• 전송자가 이전 참여도에 따라 스토리의 진실성을 조정하며, 참여가 높을수록 가짜 콘텐츠 비율을 높이는 전략을 모델링함.
• 40개 매체(주류 20개, 위성 정보 20개)에서 유래한 1,000개 헤드라인에 대해 참가자들로부터 20,000건의 정확도 평가를 수집하고, Crowdtangle을 통해 페이스북 참여 데이터와 매칭함.
• 클러스터링된 로버스트 표준오차를 사용한 선형 회귀를 통해 정확도 인식과 참여(클릭/공유 의도) 간의 관계를 분석함. 정치적 성향과 상호작용 효과를 포함함.
• 3개의 실험 연구에서 정치적 성향에 따른 정확도-참여 관계의 차이를 검증하기 위해 사후 분석을 실시함.

실험 결과

연구 질문

• RQ1 전략적 방식으로 가짜 뉴스가 확산되면, 정확도를 선호하는 소비자들도 정확한 콘텐츠보다 위성 정보에 더 높은 참여를 보일 수 있는가?
• RQ2 관찰된 참여 패턴이 실제 소비자들의 정확도 선호도를 반영하는 정도는 어느 정도이며, 콘텐츠 제작자의 전략적 조작에 의해 왜곡되는가?
• RQ3 정치적 파벌 정체성이 정확도 인식과 뉴스 기사 참여 간의 관계를 조절하는가?
• RQ4 이전에 위성 정보 사이트의 링크를 공유했던 사용자들도 제어된 환경에서는 여전히 정확한 콘텐츠를 선호하는가?

주요 결과

• 정확한 뉴스를 강하게 선호함에도 불구하고, 위성 정보 사이트의 헤드라인은 정확도가 낮을수록 더 높은 참여를 보였으며, 이는 선언된 선호도와 행동 간의 괴리를 시사한다.
• 위성 정보 사이트의 경우 정확도 인식과 참여 간 상관관계는 음의 값(r = -0.21)을 보였고, 주류 사이트의 경우는 양의 값(r = 0.38)을 보였으며, 이는 모델의 예측된 참여 패턴의 분리됨을 확인한다.
• 모든 3개의 실험에서 사용자들은 정확도 인식과 클릭 및 공유 의도 사이에 유의미한 양의 상관관계를 보였으며, 위성 정보 사이트 링크를 공유했던 사용자들 역시 마찬가지였다.
• 대부분의 실험에서 정치적 성향과 정확도 인식 간 상호작용은 참여 예측에 유의미한 영향을 미치지 않았으며, 이는 정확도 선호가 정치적 성향에 관계없이 일관됨을 시사한다.
• 가장 공화당 성향이 강한 사용자들 역시 정확도 인식과 클릭 의도 간의 양의 관계가 강하게 유지됨(β = 0.318, p < 0.001).
• 모델는 위성 정보 제작자가 혼합 콘텐츠 전략을 사용하고 참여가 높을 때 가짜 콘텐츠 비율을 늘림으로써 진짜 뉴스보다 더 높은 참여를 이끌어낼 수 있음을 예측한다—가짜 뉴스가 감정적 또는 인지적으로 더 뚜렷하게 느껴지도록 만들 필요 없이도 가능하다.