[논문 리뷰] (Mis)Information Operations: An Integrated Perspective

Matteo Cinelli, Mauro Conti외 7명|arXiv (Cornell University)|2019. 12. 23.

Misinformation and Its Impacts참고 문헌 47인용 수 5

한 줄 요약

이 논문은 인지 편향, 사회적 동향, 소셜 미디어 생태계 내 기술 인프라를 분석하여 (오)정보 작동을 통합적으로 이해하는 프레임워크를 제시한다. 이는 이탈리아 맥락을 중심으로 하며, 확증 편향과 그룹 극화가 오류 정보 확산의 핵심 원동력임을 밝히고, 향후 기술적 및 정책적 개입을 위한 다학제적 연구 로드맵을 제안한다.

ABSTRACT

The massive diffusion of social media fosters disintermediation and changes the way users are informed, the way they process reality, and the way they engage in public debate. The cognitive layer of users and the related social dynamics define the nature and the dimension of informational threats. Users show the tendency to interact with information adhering to their preferred narrative and to ignore dissenting information. Confirmation bias seems to account for users decisions about consuming and spreading content; and, at the same time, aggregation of favored information within those communities reinforces group polarization. In this work, the authors address the problem of (mis)information operations with a holistic and integrated approach. Cognitive weakness induced by this new information environment are considered. Moreover, (mis)information operations, with particular reference to the Italian context, are considered; and the fact that the phenomenon is more complex than expected is highlighted. The paper concludes by providing an integrated research roadmap accounting for the possible future technological developments.

연구 동기 및 목표

• 소셜 미디어에서 오류 정보에 대한 사용자 행동을 형성하는 데 있어 확증 편향과 같은 인지 편향의 역할을 분석하는 것.
• 에코 챔버와 그룹 극화와 같은 사회적 동향이 오류 정보 유포를 어떻게 증폭시키는지 조사하는 것.
• 복잡하고 다층적인 오류 정보 캠페인의 사례로서 이탈리아 맥락에서의 (오)정보 작동을 검토하는 것.
• 오류 정보에 대한 인지적, 사회적, 기술적 시각을 통합하는 통합적이고 다학제적 연구 프레임워크를 개발하는 것.
• 정보 생태계의 새로운 기술적 발전과 체계적 취약성을 다루는 향후 연구 로드맵을 제시하는 것.

제안 방법

• 저자들은 컴퓨터 과학, 사회과학, 인지 심리학의 통찰을 통합하는 다학제적 접근을 채택한다.
• 기존의 내러티브와 일치하는 콘텐츠 소비 및 공유와 관련된 사용자 행동 패턴을 분석하기 위해 소셜 미디어 플랫폼의 데이터를 사용한다.
• 개개인의 인지 경향성(예: 확증 편향)과 집단적 사회적 동향(예: 그룹 극화) 간의 상호작용을 모델링하여 정보 생태계 형성 과정을 분석한다.
• 실제 세계의 복잡성과 체계적 성격을 보여주기 위해 이탈리아의 (오)정보 작동 사례 연구를 활용한다.
• 정보 흐름과 사용자 참여 패턴을 매핑하기 위해 소셜 미디어 데이터의 정성적 및 정량적 분석을 통합한다.
• 기존 문헌과 실증적 발견의 융합을 통해 향후 기술적 및 정책 관련 방향성을 강조하는 연구 로드맵을 수립한다.

실험 결과

연구 질문

• RQ1 확증 편향과 같은 인지 편향은 소셜 미디어에서 사용자 참여에 어떻게 영향을 미치는가?
• RQ2 그룹 극화와 에코 챔버와 같은 사회적 동향은 오류 정보 유포에 얼마나 기여하는가?
• RQ3 이탈리아 소셜 미디어 맥락에서 (오)정보 작동의 구조적 및 행동적 특성은 무엇인가?
• RQ4 인지적, 사회적, 기술적 요소는 오류 정보를 연구하기 위한 통합 프레임워크에 어떻게 통합될 수 있는가?
• RQ5 미래의 (오)정보 작동 억제를 위한 핵심 기술적 및 정책 관련 연구 방향은 무엇인가?

주요 결과

• 확증 편향은 사용자들이 자신의 기존 신념과 일치하는 정보를 소비하고 공유하는 데 있어 중대한 영향을 미친다.
• 온라인 커뮤니티 내 선호 정보의 집합은 그룹 극화를 강화하여 닫힌 네트워크 내에서 오류 정보의 내재성과 저항력을 높인다.
• (오)정보 작동 현상은 이전에 상상한 것보다 더 복잡하며, 인지적, 사회적, 기술적 계층에서의 조율된 노력이 포함되어 있다.
• 이탈리아 맥락은 오류 정보 작동의 고유한 패턴을 드러내며, 공공 논의를 조작하기 위해 소셜 미디어를 전략적으로 활용하는 경향이 있다.
• 본 연구는 현재의 연구 및 정책 대응에서 사용자들이 디지털 환경에서 겪는 인지적 취약성을 다루지 못하는 심각한 격차를 규명한다.
• 오류 정보를 체계적으로 억제하기 위한 통합 연구 로드맵을 제안한다.