[논문 리뷰] Friction Interventions to Curb the Spread of Misinformation on Social Media

Laura Jahn, Rasmus K. Rendsvig외 3명|arXiv (Cornell University)|2023. 07. 21.

Misinformation and Its Impacts참고 문헌 59인용 수 5

한 줄 요약

이 논문은 사회적 미디어에서 열등한 품질의 콘텐츠 확산을 줄이기 위해 공동체 기준에 대한 학습이 통합된 마찰력 개입을 제안한다. 에이전트 기반 시뮬레이션 결과, 마찰력만으로는 게시물 수는 감소시키지만 품질 향상은 이루어지지 않지만, 경미한 마찰력(f = 0.01–0.05)과 학습(ℓ = 0.1–0.3)을 조합하면 평균 게시물 품질이 크게 향상됨을 보여주며, 참여도에 해를 끼치지 않으면서도 정보 품질을 향상시킬 수 있는 확장 가능하고 비침습적인 방법을 제공한다.

ABSTRACT

Social media has enabled the spread of information at unprecedented speeds and scales, and with it the proliferation of high-engagement, low-quality content. *Friction* -- behavioral design measures that make the sharing of content more cumbersome -- might be a way to raise the quality of what is spread online. Here, we study the effects of friction with and without quality-recognition learning. Experiments from an agent-based model suggest that friction alone decreases the number of posts without improving their quality. A small amount of friction combined with learning, however, increases the average quality of posts significantly. Based on this preliminary evidence, we propose a friction intervention with a learning component about the platform's community standards, to be tested via a field experiment. The proposed intervention would have minimal effects on engagement and may easily be deployed at scale.

연구 동기 및 목표

• 소셜 미디어 플랫폼에서 콘텐츠 공유 시 마찰력이 열등한 품질의 콘텐츠 및 오해의 소지가 있는 콘텐츠의 확산을 줄일 수 있는지 조사하는 것.
• 플랫폼 기준에 대한 학습과 함께 마찰력을 조합했을 때 공유 콘텐츠의 품질에 미치는 영향을 평가하는 것.
• 사용자 참여도에 최소한의 영향을 주면서도 정보 품질을 향상시킬 수 있는 확장 가능하고 비침습적인 개입을 설계하는 것.
• 마찰력이 높은 참여도를 유도하는 열등한 품질의 콘텐츠를 선호하는 인지 편향과 알고리즘 증폭 효과를 상쇄할 수 있는지 테스트하는 것.
• 행동 과학과 에이전트 기반 모델링에 기반한 현장 테스트가 가능한 원형 개입 프로토타입을 제공하는 것.

제안 방법

• 에이전트 기반 모델은 소셜 미디어 상호작용을 시뮬레이션하며, 에이전트는 참여도(e-거리)에 따라 게시물을 공유하거나, 마찰력이 적용된 후에는 인식된 품질에 따라 공유한다.
• 마찰력은 강제적인 퀴즈 또는 성찰 프롬프트로 인해 에이전트가 공유를 방해당할 확률(f ∈ [0,1])으로 모델링된다.
• 학습은 마찰력 노출 이후에 에이전트가 참여도 기반에서 품질 기반 선택으로 공유 행동을 전환할 확률(ℓ ∈ [0,1])으로 모델링된다.
• 게시물 품질(q)과 참여도(e)는 선형 확률 밀도 함수 P(x) = 2(1−x)에서 추출되며, 이는 높은 품질과 높은 참여도를 동시에 갖는 콘텐츠가 흔치 않음을 반영한다.
• 안정화를 판단하기 위해 지수 이동 평균 품질(ρ = 0.99)을 추적하며, 변화가 ε = 10⁻⁵ 이하로 떨어지면 시뮬레이션을 중단한다.
• 모든 시뮬레이션은 마찰력(f)과 학습(ℓ)의 조합 813개를 테스트하며, 각 조합은 다섯 개의 샘플 네트워크에서 10번씩 실행되어 결과를 평균화하여 신뢰도를 확보한다.

Figure 1: Information diffusion process. Each node has a news feed of size $\alpha$ , containing messages recently posted or re-shared by friends. The follower relation is illustrated by dotted arrows pointing from an agent to their friends. Information travels from agents to their followers, along

실험 결과

연구 질문

• RQ1 마찰력만으로는 열등한 품질의 콘텐츠 확산을 줄일 수 있지만, 그 품질은 향상되지 않는가?
• RQ2 마찰력과 공동체 기준에 대한 학습을 조합하면 공유 콘텐츠의 평균 품질을 유의미하게 향상시킬 수 있는가?
• RQ3 콘텐츠 품질을 극대화하면서도 참여도를 유지하기 위해 마찰력 강도와 학습 확률 사이의 최적의 균형은 무엇인가?
• RQ4 재공유로 인해 중복 게시물이 발생할 경우, 장기적으로 정보 생태계의 품질에 어떤 영향을 미치는가?
• RQ5 인지 편향과 인기 콘텐츠의 알고리즘 증폭이 마찰력 개입의 효과를 얼마나 저해하는가?

주요 결과

• 마찰력만으로는 공유되는 게시물의 수는 감소시키지만, 에이전트들이 여전히 품질보다 참여도를 우선시하기 때문에 평균 콘텐츠 품질은 향상되지 않는다.
• 경미한 마찰력(f = 0.01–0.05)과 중간 수준의 학습(ℓ = 0.1–0.3)을 조합하면 시뮬레이션 전반에서 평균 게시물 품질이 유의미하게 향상된다.
• 낮은 마찰력과 중간 수준의 학습에서 평균 품질이 가장 높게 나타나며, 이는 사고의 노력이 논의를 촉진하기에 충분하지만 공유를 막는 데에는 이르지 않는 이상적인 균형점임을 시사한다.
• 이 개입은 기본값보다 더 높은 품질 수준에서 안정화되며, 충분한 시뮬레이션 시간 이후 지수 이동 평균 품질이 새로운 평형 상태로 수렴한다.
• 모델은 학습이 에이전트가 단 한 번의 마찰력 프롬프트 노출 이후에도 참여도 기반에서 품질 기반 공유로 행동을 전환할 수 있음을 보여준다.
• 제안된 개입은 확장 가능하고 최소한의 방해를 초래하므로, 사용자 참여도를 크게 감소시키지도 않으며 플랫폼의 대대적인 재설계가 필요하지도 않다.

Figure 2: Average post quality $\hat{q}_{T}$ as a function of friction probability $f$ , for different probabilities of learning $\ell$ . The subscript $T$ indicates that average quality is measured at convergence (see Methods). Shaded areas indicate standard errors.