[논문 리뷰] Combating Health Misinformation in Social Media: Characterization, Detection, Intervention, and Open Issues

Canyu Chen, Haoran Wang외 4명|arXiv (Cornell University)|2022. 11. 10.

Misinformation and Its Impacts인용 수 9

한 줄 요약

이 종합적 서베이는 사회 미디어에서의 건강 오보에 대해 종합적이고 다학제적 분석을 제공하며, 연구를 특성화, 탐지, 개입의 세 가지 단계로系적으로 정리한다. 공중보건에 대한 해로움, 탐지의 어려움, 건강 격차 등 주요 과제를 밝히고, 기술적, 사회적, 정책 기반의 해결책을 통해 오보를 극복하기 위한 향후 연구 방향을 제안한다.

ABSTRACT

Social media has been one of the main information consumption sources for the public, allowing people to seek and spread information more quickly and easily. However, the rise of various social media platforms also enables the proliferation of online misinformation. In particular, misinformation in the health domain has significant impacts on our society such as the COVID-19 infodemic. Therefore, health misinformation in social media has become an emerging research direction that attracts increasing attention from researchers of different disciplines. Compared to misinformation in other domains, the key differences of health misinformation include the potential of causing actual harm to humans' bodies and even lives, the hardness to identify for normal people, and the deep connection with medical science. In addition, health misinformation on social media has distinct characteristics from conventional channels such as television on multiple dimensions including the generation, dissemination, and consumption paradigms. Because of the uniqueness and importance of combating health misinformation in social media, we conduct this survey to further facilitate interdisciplinary research on this problem. In this survey, we present a comprehensive review of existing research about online health misinformation in different disciplines. Furthermore, we also systematically organize the related literature from three perspectives: characterization, detection, and intervention. Lastly, we conduct a deep discussion on the pressing open issues of combating health misinformation in social media and provide future directions for multidisciplinary researchers.

연구 동기 및 목표

• 사회 미디어에서의 건강 오보 증가 추세가 공중보건에 직접적인 위험을 초래하고 해로운 행동으로 이어질 수 있기 때문에 이를 다루기 위해.
• 정치나 엔터테인먼트와 같은 다른 분야의 오보와 비교할 때 건강 오보의 고유한 특성, 즉 신체적 해로움의 잠재성과 의료 전문 지식에 대한 의존도를 분석하기 위해.
• 컴퓨터 과학, 공중보건, 사회과학 분야의 기존 연구를 종합적으로 정리하여 특성화, 탐지, 개입의 세 핵심 단계로 체계화하기 위해.
• 건강 격차, AI 편향, 현재 개입 전략의 효과성과 같은 핵심 열린 문제를 부각시키기 위해.
• 연구 격차를 밝히고 실천 가능한 연구 방향을 제안하여 향후 다학제적 연구를 이끌기 위해.

제안 방법

• 컴퓨터 과학, 공중보건, 사회과학 분야에서 체계적 문헌 리뷰를 수행하여 건강 오보 연구의 전반적 풍경을 맵핑하기 위해.
• 탐지 방법을 여섯 가지 유형으로 분류: 건강 콘텐츠 분석, 사용자 참여 모델링, 사회적 구조 분석, 생물의학 지식 통합, 다중모달 분석, 교차 도메인 활용.
• 정부 정책, 조직 차원 조치(예: 플랫폼 모더레이션), 개인 수준 노력(예: 미디어 리터러시)의 세 수준에서 개입 전략을 분석하기 위해.
• 확산 패턴과 영향 전략을 분석하기 위해, 조작된 봇 활동 및 정서적 조작을 포함한다.
• AI가 건강 오보 탐지에 기여할 뿐 아니라, 특히 소외된 공동체에서 오보를 악화시킬 수 있음을 평가하기 위해.
• 재현 가능한 건강 오보 탐지 및 완화 연구를 지원하기 위해 기존 데이터셋과 도구를 통합하기 위해.

실험 결과

연구 질문

• RQ1 사회 미디어에서 건강 오보의 주요 원인, 영향, 확산 패턴은 무엇인가?
• RQ2 정치나 엔터테인먼트와 같은 다른 분야의 오보와 비교할 때 건강 오보의 특성은 무엇이 다른가?
• RQ3 다양한 모odal 및 플랫폼에서 건강 오보를 탐지하기 위한 가장 효과적인 기술적 및 사회적 전략은 무엇인가?
• RQ4 현재의 개입 전략은 소수자나 소외된 집단에 해를 끼치지 않으면서 오보를 얼마나 효과적으로 완화하는가?
• RQ5 건강 오보는 기존의 건강 격차를 어떻게 유발하거나 악화시키며, AI는 이 동적 과정에서 어떤 역할을 하는가?

주요 결과

• 건강 오보는 신체적 해로움의 직접적 잠재성을 지녀, 블리치를 코로나19 치료제로 홍보한 사례처럼 매우 위험한 편이다.
• 저소득층일수록 건강 오보를 더 쉽게 수용하여 건강 격차와 위험 행동이 증가한다.
• 생물의학 지식과 다중모달 신호(예: 텍스트, 이미지, 영상)를 통합한 탐지 모델은 언어적 또는 참여도 기반 특징에만 의존하는 모델보다 더 높은 정확도를 보인다.
• 편향에 대한 철저한 감사가 이루어지지 않으면 AI 기반 개입 전략은 건강 격차를 악화시킬 수 있다. 특히 소외된 공동체에서 그러한 위험이 크다.
• 플랫폼 수준의 현재 개입 전략, 예를 들어 콘텐츠 경고 및 사실 확인은 효과가 엇갈리며, 실제 확산 결과에 대한 강력한 평가가 부족하다.
• 특히 少수자 및 소외된 인구에서 건강 오보와 문서화된 건강 격차 간의 연관성을 규명한 연구가 극히 부족하다.