[논문 리뷰] Incentivizing the Dissemination of Truth Versus Fake News in Social Networks

Abbas Ehsanfar, Mo Mansouri|arXiv (Cornell University)|2018. 04. 07.

Opinion Dynamics and Social Influence참고 문헌 2인용 수 3

한 줄 요약

이 논문은 사회적 네트워크에서 진실과 가짜 뉴스의 확산을 자원봉사자 딜레마로 모델링하여, 사용자들이 뉴스 검증에 공동으로 기여하도록 한다. 공유 보상(예: 뉴스 구독)을 통해 진실된 정보의 확산을 유도하고, 개인의 인cent티브를 네트워크 시스템 내의 집단적 진실 탐색과 일치시킴으로써 가짜 뉴스의 지배를 감소시킨다.

ABSTRACT

The concept of truth, as a public good is the production of a collective understanding, which emerges from a complex network of social interactions. The recent impact of social networks on shaping the perception of truth in political arena shows how such perception is corroborated and established by the online users, collectively. However, investigative journalism for discovering truth is a costly option, given the vast spectrum of online information. In some cases, both journalist and online users choose not to investigate the authenticity of the news they receive, because they assume other actors of the network had carried the cost of validation. Therefore, the new phenomenon of "fake news" has emerged within the context of social networks. The online social networks, similarly to System of Systems, cause emergent properties, which makes authentication processes difficult, given availability of multiple sources. In this study, we show how this conflict can be modeled as a volunteer's dilemma. We also show how the public contribution through news subscription (shared rewards) can impact the dominance of truth over fake news in the network.

연구 동기 및 목표

• 사용자들이 타인의 노력에 휘청이며 정보를 검증하지 않는다는 점에서, 소셜 네트워크에서 가짜 뉴스 확산 문제를 다루기 위함.
• 분산된 신뢰가 존재하는 네트워크 환경에서 뉴스의 공동 검증이 공공재로 어떻게 나타날 수 있는지 분석하기 위함.
• 공유 보상(예: 구독)이 사용자들이 진실된 내용을 검증하고 확산하도록 유도하는 데 어떤 역할을 하는지 조사하기 위함.
• 개인적 인센티브가 영향을 미치는 시스템 수준의 상호작용을 통해 진실과 가짜 뉴스의 확산 동역학을 모델링하기 위함.
• 특히 보상 공유 메커니즘을 포함한 시스템 설계가 네트워크 행동을 진실 말하기 쪽으로 이끌 수 있는지 평가하기 위함.

제안 방법

• 각 사용자가 뉴스 검증에 노력 투자할 것인지 또는 다른 이의 노력에 의존할 것인지 결정하는 자원봉사자 딜레마로 문제를 모델링함.
• 구독자가 공동으로 검증 노력에 자금을 기여하고 기여자 간에 보상을 분배하는 공유 보상 메커니즘을 도입함.
• 이석적 게임 이론 모델링을 통해 이질적인 사용자 인센티브를 가진 네트워크에서의 균형 행동을 분석함.
• 다양한 보상 공유 구조가 진실 전파에 미치는 영향을 시뮬레이션하여 네트워크 수준의 결과를 분석함.
• 상호 연결된 사회적 네트워크에서의 잠재 행동을 이해하기 위해 시스템의 시스템(SoS) 공학 원칙을 적용함.
• 분석적 및 시뮬레이션 기반 방법을 사용하여 다양한 인센티브 구조 하에서 진실과 가짜 뉴스의 안정성 및 지배 여부를 평가함.

실험 결과

연구 질문

• RQ1 자원봉사자 딜레마 프레임워크는 소셜 네트워크에서 뉴스 검증에 실패하는 이유를 어떻게 설명하는가?
• RQ2 공유 보상은 사용자들이 진실된 정보를 검증하고 확산하도록 유도하는 데 어떤 역할을 하는가?
• RQ3 네트워크 환경에서 진실된 내용이 가짜 뉴스를 지배하는 조건은 무엇인가?
• RQ4 네트워크 구조와 보상 공유 메커니즘이 공동 진실 탐색 행동의 출현에 어떤 영향을 미치는가?
• RQ5 시스템 수준의 인센티브를 설계하여 무료 승차(자원봉사자 딜레마)를 줄이고 검증된 정보의 확산을 증가시킬 수 있는가?

주요 결과

• 자원봉사자 딜레마 프레임워크는 타인의 노력에 의존하는 자유로운 승차의 영향으로 인해 개인 사용자가 뉴스 검증에 참여하지 않을 경향을 정확하게 반영한다.
• 뉴스 구독을 통한 공유 보상은 진실된 정보가 가짜 뉴스보다 더 널리 퍼질 가능성을 크게 증가시킨다.
• 검증 비용이 공유되고 사용자가 자신의 검증 노력에 대해 공정한 보상을 느낄 때, 네트워크 전체에서 진실의 지배가 나타난다.
• 모델은 심지어 중간 수준의 공유 보상이라도 균형 행동을 더 높은 검증 비율 쪽으로 이동시킬 수 있음을 보여준다.
• 특히 집단적 복리와 일치하는 경우, 시스템 수준의 인센티브는 자연스럽게 가짜 뉴스 확산 경향을 상쇄시킬 수 있다.
• 분산된 시스템에서도 전략적 보상 설계를 통해 사회적 네트워크의 잠재 행동(예: 진실 전파)을 유도할 수 있다.