[논문 리뷰] How can we combat online misinformation? A systematic overview of current interventions and their efficacy

Pica Johansson, Florence E. Enock외 5명|arXiv (Cornell University)|2022. 12. 22.

Misinformation and Its Impacts인용 수 4

한 줄 요약

이 논문은 온라인 가짜정보에 대응하는 간 interventions를 체계적으로 분류하고 평가하기 위한 삼단계 프레임워크를 제시한다. 이는 (1) 취약성 감소를 위한 준비 단계, (2) 확산 및 영향 억제, (3) 반응 조치로 나뉜다. 기존 연구를 종합하여 효능을 평가함으로써 정책 입안자와 연구자들이 개입 조치를 평가하고 선택하는 데 사용할 수 있는 체계적이고 증거 기반의 도구를 제공한다. 주요 발견은 미디어 리터러시와 프리벤딩이 중간에서 강한 효과를 보이며, 사실 확인 및 알고리즘 기반 개입은 혼합된 결과를 보인다는 것이다.

ABSTRACT

The spread of misinformation is a pressing global problem that has elicited a range of responses from researchers, policymakers, civil society and industry. Over the past decade, these stakeholders have developed many interventions to tackle misinformation that vary across factors such as which effects of misinformation they hope to target, at what stage in the misinformation lifecycle they are aimed at, and who they are implemented by. These interventions also differ in how effective they are at reducing susceptibility to (and curbing the spread of) misinformation. In recent years, a vast amount of scholarly work on misinformation has become available, which extends across multiple disciplines and methodologies. It has become increasingly difficult to comprehensively map all of the available interventions, assess their efficacy, and understand the challenges, opportunities and tradeoffs associated with using them. Few papers have systematically assessed and compared the various interventions, which has led to a lack of understanding in civic and policymaking discourses. With this in mind, we develop a new hierarchical framework for understanding interventions against misinformation online. The framework comprises three key elements: Interventions that Prepare people to be less susceptible; Interventions that Curb the spread and effects of misinformation; and Interventions that Respond to misinformation. We outline how different interventions are thought to work, categorise them, and summarise the available evidence on their efficacy; offering researchers, policymakers and practitioners working to combat online misinformation both an analytical framework that they can use to understand and evaluate different interventions (and which could be extended to address new interventions that we do not describe here) and a summary of the range of interventions that have been proposed to date.

연구 동기 및 목표

• 다양한 분야와 방법론에서 기존의 개입 조치를 체계적으로 맵핑하고 평가하여 증가하는 온라인 가짜정보 문제에 대응하고자 한다.
• 준비, 억제, 대응이라는 세 가지 핵심 유형으로 조직된 계층적이고 증거 기반의 프레임워크를 개발하고자 한다.
• 가짜정보 생명주기의 다양한 단계에서 개입 조치의 효능을 평가하여 강점, 한계 및 상충 요소를 규명하고자 한다.
• 산산이 흩어진 학술 연구를 통합하여 일관된 분석 도구로 만들음으로써 시민 및 정책 결정 토론의 분열을 줄이고자 한다.
• 연구자, 실무자, 정책 입안자들이 현재 및 향후 개입 조치를 평가할 수 있도록 재사용 가능한 프레임워크를 제공하고자 한다.

제안 방법

• 저자들은 컴퓨터 과학, 사회학, 커뮤니케이션 스터디 등 여러 분야에서 온라인 가짜정보 개입 조치에 관한 학술 문헌을 체계적으로 개괄하였다.
• 사용자들이 가짜정보에 저항할 수 있도록 준비시키는 것, 가짜정보의 확산과 영향을 줄이는 것, 가짜정보가 나타난 후에 대응하는 것이라는 세 가지 주요 개입 유형을 포함하는 계층적 프레임워크를 개발하였다.
• 개입 조치는 가짜정보 생명주기에서의 타겟 단계, 구현 주체(예: 플랫폼, 교사, 사실 확인 기관), 의도된 작용 기전을 기반으로 분류되었다.
• 기존 메타 분석, 무작위 대조 시험(RCTs), 관찰 연구를 통합하여 개입 조치의 효능에 대한 증거를 종합하였으며, 취약성 감소, 공유 감소, 탐지 능력 향상 등의 결과를 중심으로 다뤘다.
• 개념적 명료성과 실용성을 확보하기 위해 기존 문헌과의 일치성과 반복적 검토를 통해 프레임워크를 검증하였다.
• 본 논문은 개입 조치 성공 여부에 영향을 미치는 맥락, 시기, 실행 충실도의 중요성을 강조한다.

실험 결과

연구 질문

• RQ1 가짜정보 생명주기에서의 메커니즘과 시기 기반으로 온라인 가짜정보에 대응하는 개입 조치를 어떻게 체계적으로 분류할 수 있는가?
• RQ2 준비, 억제, 대응라는 세 가지 개입 유형 간의 상대적 효능은 가짜정보에 대한 취약성 감소와 확산 억제에 얼마나 기여하는가?
• RQ3 가짜정보 개입 조치 성공에 영향을 미치는 주요 과제, 상충 요소 및 맥락적 요소는 무엇인가?
• RQ4 가짜정보의 단계(예: 예방적 대응 vs. 반응적 대응)에 따라 개입 조치의 효과는 어떻게 달라지는가?
• RQ5 미디어 리터러시, 프리벤딩, 사실 확인, 알고리즘 필터링과 같은 특정 개입 조치를 뒷받침하는 증거는 무엇인가?

주요 결과

• 미디어 리터러시와 프리벤딩 개입 조치는 노출 이전에 제공될 경우, 특히 가짜정보에 대한 취약성 감소에 중간에서 강한 증거를 보인다.
• 사실 확인 개입 조치는 효능이 혼합되어 있으며, 일부 연구에서는 단기적 영향은 보이지만 장기적 기억 유지나 행동 변화에는 제한이 있다.
• 플랫폼 수준의 개입 조치—예: 콘텐츠 모니터링 및 알고리즘 필터링—는 결과가 다양하며, 일반적으로 확장성, 투명성, 편향 가능성 등의 제약에 의해 제한된다.
• 경고 라벨 및 출처 신뢰성 표시와 같은 억제 전략은 교육적 요소와 결합될 경우 더 효과적이다.
• 개입 조치의 효과는 맥락에 매우 의존적이며, 문화적, 정치적, 기술적 요소가 결과에 상당한 영향을 미친다.
• 장기적 평가에 대한 뚜렷한 격차가 있으며, 대부분의 연구가 지속적인 영향보다는 단기적 행동 변화나 태도 변화에 집중하고 있다.