[논문 리뷰] Social Media and Misleading Information in a Democracy: A Mechanism Design Approach

Aditya Dave, Ioannis Vasileios Chremos외 1명|arXiv (Cornell University)|2020. 03. 12.

Misinformation and Its Impacts참고 문헌 35인용 수 27

한 줄 요약

이 논문은 민주주의적 맥락에서 소셜 미디어 플랫폼이 오해의 소재가 되는 정보를 걸러내도록 유인하기 위해 예산 균형, 개인적 합리성 기반의 보조금을 플랫폼이 제안한 신뢰 기준과 연계한 메커니즘 설계 프레임워크를 제안한다. 이 메커니즘은 일반화된 내쉬 균형을 강하게 실현하여 효율적인 오해의 소재 필터링을 보장하면서도 자발적 참여와 준거 효율성을 유지한다. 비선형 utility 함수 조건 하에서 성립한다.

ABSTRACT

In this paper, we present a resource allocation mechanism for the problem of incentivizing filtering among a finite number of strategic social media platforms. We consider the presence of a strategic government and private knowledge of how misinformation affects the users of the social media platforms. Our proposed mechanism incentivizes social media platforms to filter misleading information efficiently, and thus indirectly prevents the spread of fake news. In particular, we design an economically inspired mechanism that strongly implements all generalized Nash equilibria for efficient filtering of misleading information in the induced game. We show that our mechanism is individually rational, budget balanced, while it has at least one equilibrium. Finally, we show that for quasi-concave utilities and constraints, our mechanism admits a generalized Nash equilibrium and implements a Pareto efficient solution.

연구 동기 및 목표

• 민주적 제도에 대한 대중 신뢰를 약화시키는 소셜 미디어 플랫폼에서의 광범위한 오해의 소재 문제를 다루기 위해.
• 사용자 참여가 감소할 수 있음에도 불구하고 플랫폼이 자발적으로 오해의 소재 콘텐츠를 걸러내도록 유인하기 위한 메커니즘을 설계하기 위해.
• 오해의 소재 감소를 위한 정부 투자가 전략적 유인 조건을 통해 효율적으로 배분되도록 보장하기 위해.
• 정부와 플랫폼이 오해의 소재 확산 감소로 인해 모두 이득을 보는 준거 효율적 결과를 달성하기 위해.
• 유도된 게임에서 일반화된 내쉬 균형이 강하게 실현되는 조건을 설정하기 위해.

제안 방법

• 소셜 미디어 플랫폼과 전략적 정부를 플레이어로 하는 오해의 소재 필터링 게임을 수리적으로 정의한다.
• 플랫폼이 최소 신뢰 기준과 필터링 수준을 제안하고, 정부가 최소 평균 기준을 제안하는 메커니즘을 도입한다.
• 각 플랫폼의 제안된 신뢰 기준과 정부의 제안된 평균 기준에 비례하는 보조금 메커니즘을 사용한다.
• 투명하고 반복적인 제안-수정 과정을 통해 합의에 도달하여 모든 이해관계자가 Binding 배분을 수용하도록 보장한다.
• 예산 균형, 개인적 합리성, 균형의 강한 실현을 보장하기 위해 메커니즘 설계 원리를 적용한다.
• 일반화된 내쉬 균형(GNE) 이론을 사용하여, 준선형 utility 및 제약 함수 조건 하에서 메커니즘의 존재성과 효율성을 증명한다.

실험 결과

연구 질문

• RQ1 정부가 직접 통제 없이도 소셜 미디어 플랫폼이 오해의 소재를 효과적으로 걸러내도록 유인하기 위해 어떤 메커니즘이 필요한가?
• RQ2 오해의 소재 필터링으로 인해 사용자 참여가 감소할 수 있음에도 불구하고 플랫폼이 자발적으로 참여하도록 보장하는 메커니즘은 무엇인가?
• RQ3 제안된 메커니즘이 준거 효율적 결과를 달성하는 조건은 무엇인가?
• RQ4 메커니즘이 예산 균형과 개인적 합리성을 보장하도록 어떻게 설계할 수 있는가?
• RQ5 유도된 게임에서 일반화된 내쉬 균형이 존재하는 조건은 무엇인가?

주요 결과

• 제안된 메커니즘은 예산 균형을 보장하여 총 정부 투자액과 총 플랫폼 보조금이 일치한다.
• 메커니즘은 개인적 합리성을 보장하여 참가 플랫폼이 참여함으로써 더 나빠지지 않는다.
• 메커니즘은 유도된 게임의 모든 일반화된 내쉬 균형을 강하게 실현하여 전략적 안정성을 확보한다.
• 주어진 가정 하에서 적어도 하나의 일반화된 내쉬 균형이 존재하며, 이는 준거 효율적 결과를 이끈다.
• 준선형 utility 및 제약 함수 조건 하에서 메커니즘은 일반화된 내쉬 균형을 수용하며 준거 효율적 해를 실현한다.
• 메커니즘은 플랫폼이 제안에 대해 합의에 도달할 경우에만 오해의 소재 필터를 구현하도록 보장하며, 상호 합의가 이루어지지 않으면 Binding 배분이 시행되지 않는다.