[논문 리뷰] Human-Misinformation interaction: Understanding the interdisciplinary approach needed to computationally combat false information

Alireza Karduni|arXiv (Cornell University)|2019. 03. 17.

Misinformation and Its Impacts참고 문헌 87인용 수 14

한 줄 요약

이 논문은 소스, 콘텐츠, 소비자라는 세 핵심 요소를 분석함으로써 계산적으로 가짜정보를 극복하기 위한 다학제적 프레임워크를 제안한다. 컴퓨터 과학 분야에서 콘텐츠 탐지와 소스 검증에 집중하고 있는 현재의 경향을 비판하면서, 확증 편향과 에코 캐빈 같은 심리적·사회적 요인을 다루는 소비자 중심 도구의 부족함을 지적하며, 사용성 중심의 HCI 기반 솔루션을 통해 인간의 가짜정보에 대한 저항력을 강화할 것을 촉구한다.

ABSTRACT

The prevalence of new technologies and social media has amplified the effects of misinformation on our societies. Thus, it is necessary to create computational tools to mitigate their effects effectively. This study aims to provide a critical overview of computational approaches concerned with combating misinformation. To this aim, I offer an overview of scholarly definitions of misinformation. I adopt a framework for studying misinformation that suggests paying attention to the source, content, and consumers as the three main elements involved in the process of misinformation and I provide an overview of literature from disciplines of psychology, media studies, and cognitive sciences that deal with each of these elements. Using the framework, I overview the existing computational methods that deal with 1) misinformation detection and fact-checking using Content 2) Identifying untrustworthy Sources and social bots, and 3) Consumer-facing tools and methods aiming to make humans resilient to misinformation. I find that the vast majority of works in computer science and information technology is concerned with the crucial tasks of detection and verification of content and sources of misinformation. Moreover, I find that computational research focusing on Consumers of Misinformation in Human-Computer Interaction (HCI) and related fields are very sparse and often do not deal with the subtleties of this process. The majority of existing interfaces and systems are less concerned with the usability of the tools rather than the robustness and accuracy of the detection methods. Using this survey, I call for an interdisciplinary approach towards human-misinformation interaction that focuses on building methods and tools that robustly deal with such complex psychological/social phenomena.

연구 동기 및 목표

• 소셜 미디어와 신기술이 가속화하는 가짜정보로 인한 증가하는 사회적 위협을 다루기 위해.
• 현재의 계산적 접근 방식이 콘텐츠 탐지와 소스 검증에 과도하게 집중하면서 인간의 인지적·사회적 요인을 간과하고 있음을 밝히기 위해.
• 특히 HCI와 소비자 중심 시스템 분야에서 인간 중심의 계산적 도구가 부족한 점을 부각하기 위해.
• 심리학, 인지 과학, 미디어 연구, 컴퓨터 과학의 통찰을 융합한 통합적이고 다학제적 연구 프레임워크를 구축하여, 가짜정보를 효과적으로 억제할 수 있는 강력하고 사용하기 쉬운 도구를 설계하기 위해.
• 확증 편향과 이전 노출 등 심리적 편향을 고려한 계산 시스템의 필요성을 강조하기 위해.

제안 방법

• 가짜정보 상호작용의 핵심 요소로 소스, 콘텐츠, 소비자를 포함하는 삼단계 프레임워크를 채택하기 위해.
• 가짜정보 소비의 심리적·사회적 메커니즘을 이해하기 위해 심리학, 인지 과학, 미디어 연구 분야의 다학제적 문헌을 조사하기 위해.
• 계산적 접근 방식을 세 영역으로 분류하기 위해: (1) 언어적, 시각적, 전파 패턴 분석을 통한 콘텐츠 탐지 및 자동 사실 확인; (2) 행동적 및 네트워크 특성에 기반한 봇 탐지 포함 소스 검증; (3) 시각화 및 자동 점수 기반 소비자 중심 도구.
• 기존 소비자 중심 시스템의 사용성, 내구성, 심리학적 통찰의 통합 여부를 평가하여, 대부분의 시스템이 인지 편향을 깊이 있게 다루지 못하고 있음을 발견하기 위해.
• 순수한 정확도 중심의 탐지 시스템에서 사용자 중심 설계로의 전환을 제안하여, 사용성, 인지 부하, 심리적 저항력을 고려한 설계를 위해.
• 컴퓨터 과학자, 심리학자, 사회과학자 간의 협업 연구를 통해 인간 수준에서 가짜정보를 효과적으로 완화할 수 있는 도구를 공동 설계할 것을 주장하기 위해.

실험 결과

연구 질문

• RQ1 확증 편향, 이전 노출, 에코 캐빈과 같은 심리적·사회적 요인이 인간의 가짜정보에 대한 민감도에 어떻게 영향을 미치는가?
• RQ2 높은 정확도를 보이는 현재의 가짜정보 탐지 및 사실 확인 도구들이 사용자의 신념을 변화시키지 못하는 이유는 무엇인가?
• RQ3 기존 소비자 중심 시스템이 가짜정보 소비자의 복잡한 의사결정 과정을 다루는 데에 있어 핵심적인 한계는 무엇인가?
• RQ4 가짜정보 소비 과정에서의 인지 편향과 사회적 압력을 효과적으로 억제하기 위해 계산적 도구를 어떻게 재설계할 수 있는가?
• RQ5 대규모로 가짜정보를 효과적으로 억제할 수 있는 강력하고 사용하기 쉬우며 심리학적으로 통찰력 있는 도구를 구축하기 위해 필요한 다학제적 연구 길은 무엇인가?

주요 결과

• 컴퓨터 과학 분야의 대부분의 계산적 연구는 콘텐츠 탐지와 소스 검증에 집중되어 있으며, 가짜정보 소비의 심리적·행동적 측면에는 제한된 관심을 기울이고 있다.
• HCI 및 관련 분야의 소비자 중심 도구는 흐리게 산재해 있으며, 사용성에 대한 고려가 부족하고 심리학 및 인지 과학의 깊이 있는 통찰을 반영하지 못하고 있다.
• 기존 시스템은 실세계 효과성 평가나 확증 편향, 선택적 노출과 같은 인지 편향을 고려하지 않아 신념 형성에 중대한 영향을 미친다.
• 가짜정보를 수정하기 위해 다시 언급하는 사실 확인 노력은 오히려 잘못된 믿음을 강화할 수 있어, 역효과를 낼 수 있다.
• 가짜정보 유포 과정에서 사회적 압력, 필터 버블, 에코 캐빈 간의 복잡한 상호작용을 다루는 계산적 도구에 심각한 격차가 존재한다.
• 실세계 상황에서 사용자가 정보에 기반해 탄탄한 결정을 내릴 수 있도록 도와주는 도구를 설계하기 위해 종합적이고 다학제적 접근이 필수적이다.