[논문 리뷰] An Agenda for Disinformation Research

Nadya Bliss, Elizabeth Bradley외 5명|arXiv (Cornell University)|2020. 12. 15.

Misinformation and Its Impacts인용 수 10

한 줄 요약

이 화이트페이퍼는 디지털 시대의 가짜정보 문제를 해결하기 위해 계산 도구를 활용해 위성 또는 오락성 콘텐츠를 탐지하고 분석하며 대응하는 다학제적 연구 의제를 제안한다. 이는 정보 생태계의 신뢰 회복을 위해 계산학, 사회과학 및 정책 분야 간의 유기적 협력을 통해 가짜정보 네트워크를 이해하고 탐지 시스템을 개선할 필요성을 강조한다.

ABSTRACT

In the 21st Century information environment, adversarial actors use disinformation to manipulate public opinion. The distribution of false, misleading, or inaccurate information with the intent to deceive is an existential threat to the United States--distortion of information erodes trust in the socio-political institutions that are the fundamental fabric of democracy: legitimate news sources, scientists, experts, and even fellow citizens. As a result, it becomes difficult for society to come together within a shared reality; the common ground needed to function effectively as an economy and a nation. Computing and communication technologies have facilitated the exchange of information at unprecedented speeds and scales. This has had countless benefits to society and the economy, but it has also played a fundamental role in the rising volume, variety, and velocity of disinformation. Technological advances have created new opportunities for manipulation, influence, and deceit. They have effectively lowered the barriers to reaching large audiences, diminishing the role of traditional mass media along with the editorial oversight they provided. The digitization of information exchange, however, also makes the practices of disinformation detectable, the networks of influence discernable, and suspicious content characterizable. New tools and approaches must be developed to leverage these affordances to understand and address this growing challenge.

연구 동기 및 목표

• 디지털 정보 시대의 민주적 제도, 과학적 신뢰성, 사회적 유대감에 대한 가짜정보의 증가하는 위협을 다루기 위해.
• 계산 및 통신 기술이 가짜정보의 속도, 규모, 영향 범위를 증폭시켜 공통의 현실을 약화시키고 있음을 인식하기 위해.
• 가짜정보를 탐지하고, 영향력 네트워크를 맵핑하며, 의심스러운 콘텐츠를 특성화하기 위한 새로운 도구와 방법의 필요성을 규명하기 위해.
• 컴퓨터 과학, 사회과학 및 정책 전문가 간의 다학제적 협력을 통해 효과적인 대응 조치를 개발하기 위해.
• 가짜정보의 탐지, 이해 및 양상 완화를 체계적으로 향상시키기 위한 통합 연구 의제를 수립하기 위해.

제안 방법

• 언어 패턴, 메타데이터 및 확산 역학을 분석하여 계산 도구를 개발해 가짜정보를 탐지하기 위해.
• 사회망 분석을 활용해 영향력 네트워크를 맵핑하여 가짜정보 확산의 핵심 주체와 경로를 식별하기 위해.
• 신뢰성, 출처의 신뢰도 및 공유의 시간적 패턴을 자동 분석하여 의심스러운 콘텐츠를 특성화하기 위해.
• 사회과학의 통찰을 통합해 가짜정보에 대한 인간의 반응 행동을 모델링하고 정보 출처에 대한 신뢰도를 평가하기 위해.
• 디지털화된 데이터를 활용해 정보 생태계의 대규모 실시간 모니터링을 가능하게 하기 위해.
• 기술적 탐지와 사회학적·정치적 맥락을 융합한 다학제적 연구 프레임워크를 설계하기 위해.

실험 결과

연구 질문

• RQ1 다양한 디지털 플랫폼에서 계산 방법을 어떻게 활용해 가짜정보를 대규모로 탐지하고 특성화할 수 있는가?
• RQ2 가짜정보 네트워크의 구조적 및 행동적 패턴은 무엇이며, 자연적인 정보 확산과 어떻게 다를까?
• RQ3 가짜정보 캠페인은 디지털 커뮤니케이션 인프라의 취약점과 기관에 대한 신뢰를 어떻게 악용하는가?
• RQ4 알고리즘적 확산과 플랫폼 설계는 오해의 소재 확산에 어떤 역할을 하는가?
• RQ5 다학제적 연구는 체계적인 조작에 대한 정보 생태계의 회복력을 어떻게 향상시킬 수 있는가?

주요 결과

• 가짜정보는 정당한 뉴스, 전문가 및 공통의 현실에 대한 신뢰를 약화시켜 민주적 제도에 존재적 위협을 가한다.
• 계산 및 통신 기술은 가짜정보 유포의 속도와 규모를 사상 초월하게 증폭시켜 전통적 미디어의 감시 기능에 대한 의존도를 감소시켰다.
• 디지털화를 통해 데이터 기반 방법으로 가짜정보 패턴을 탐지하고, 영향력 네트워크를 맵핑하며, 의심스러운 콘텐츠를 특성화할 수 있다.
• 가짜정보를 효과적으로 탐지하고 대응하기 위한 도구 개발을 위해 유기적이고 다학제적 연구가 절실하게 필요하다.
• 이 논문은 계산학, 사회과학 및 정책 분야 간 협업을 강조하며 향후 가짜정보 연구를 이끄는 기초 연구 의제를 수립한다.
• 제안된 의제는 기술적 및 사회적 조치를 통해 정보 생태계에 대한 신뢰를 회복함으로써 사회의 회복력을 강화하는 데 목적이 있다.