[논문 리뷰] Challenges in Combating COVID-19 Infodemic -- Data, Tools, and Ethics

Kaize Ding, Kai Shu외 3명|arXiv (Cornell University)|2020. 05. 27.

Misinformation and Its Impacts참고 문헌 8인용 수 4

한 줄 요약

이 논문은 AI를 활용한 코로나19 유행병 기간의 가짜 뉴스 확산을 막기 위해 데이터 품질, 도구의 효과성, 윤리적 고려 사항이라는 세 가지 핵심 과제를 규명한다. 사회 미디어 데이터, 약한 감독, 해석 가능한 탐지 모델을 활용하는 프레임워크를 제안하여 가짜 정보를 식별하고, 개인정보 보호 설계와 다학제적 협업을 강조함으로써 공중 보건 위기 상황에서 윤리적이고 견고하며 확장 가능한 해결책을 확보한다.

ABSTRACT

While the COVID-19 pandemic continues its global devastation, numerous accompanying challenges emerge. One important challenge we face is to efficiently and effectively use recently gathered data and find computational tools to combat the COVID-19 infodemic, a typical information overloading problem. Novel coronavirus presents many questions without ready answers; its uncertainty and our eagerness in search of solutions offer a fertile environment for infodemic. It is thus necessary to combat the infodemic and make a concerted effort to confront COVID-19 and mitigate its negative impact in all walks of life when saving lives and maintaining normal orders during trying times. In this position paper of combating the COVID-19 infodemic, we illustrate its need by providing real-world examples of rampant conspiracy theories, misinformation, and various types of scams that take advantage of human kindness, fear, and ignorance. We present three key challenges in this fight against the COVID-19 infodemic where researchers and practitioners instinctively want to contribute and help. We demonstrate that these three challenges can and will be effectively addressed by collective wisdom, crowdsourcing, and collaborative research.

연구 동기 및 목표

• 코로나19 패an드emic 기간 동안 오락가락, 음모론, 사기 행위의 확산을 막기 위한 긴급한 필요성을 해결하기 위해.
• AI를 활용한 유행병 기간 가짜 뉴스 완화에 있어 데이터 가용성, 계산 도구의 한계, 윤리적 리스크 등의 핵심 과제를 규명하기 위해.
• 정의, 투명성, 장기적 지속 가능성을 보장하는 AI 기반 가짜 뉴스 탐지에 있어 협업적이고 다학제적 연구를 촉진하기 위해.
• 사용자 신뢰를 유지하면서도 잘못된 콘텐츠를 효과적으로 탐지할 수 있도록 설명 가능하고 개인정보 인식이 높은 시스템을 개발하기 위해.
• 감시나 편향된 모델에 대한 과도한 의존으로 인한 장기적 피해를 방지하기 위해 윤리적 고려 사항을 설계 과정에 통합하기 위해.

제안 방법

• 제한된 레이블이 있는 데이터로 모델을 훈련하기 위해 사회 미디어 참여 패턴과 가짜 뉴스 탐지 점수에서 유래한 약한 감독을 활용한다.
• 출판사-신문기사-소비자 관계를 모델링하여 신뢰도를 분석하고, 미디어 편향과 사용자 신뢰에 관한 사회학적 통찰을 통합한다.
• 사용자 댓글을 분석하고 특정 텍스트 조각이 가짜 뉴스 예측에 기여하는 방식을 파악하기 위해 설명 가능한 AI 기법을 적용한다.
• NewsGuard의 알려진 가짜 뉴스 소스와 URL을 교차 참조함으로써 탐지 정확도를 향상시키기 위해 웹사이트 매칭 기법을 활용한다.
• 엔드 투 엔드 암호화와 피어 투 피어 통신을 통해 개인정보 위험을 최소화하는 접촉 추적 시스템을 설계한다.
• 공중 보건 필요성과 시민의 자유 및 민주적 가치를 균형 잡기 위해 데이터 수집 시 투명성과 사용자 동의를 촉진한다.

실험 결과

연구 질문

• RQ1 제한된 레이블이 있는 데이터와 사회 미디어 신호를 활용해 코로나19 관련 가짜 뉴스를 효과적으로 탐지하고 설명할 수 있는 방법은 무엇인가?
• RQ2 대규모로 가짜 뉴스 완화를 위한 AI 도구를 구현할 때의 주요 기술적 및 윤리적 과제는 무엇인가?
• RQ3 공중 보건 긴급 상황 기간 동안 수집된 건강 및 행동 데이터의 사생활 보호와 오용 방지를 위해 어떤 조치를 취할 수 있는가?
• RQ4 협업적이고 다학제적인 연구가 가짜 뉴스 탐지 시스템의 견고성과 공정성을 향상시키는 데 어떤 방식으로 기여할 수 있는가?
• RQ5 감시 및 데이터 사용에 있어 공중 보건의 급박성과 장기적인 민주적·윤리적 신뢰성을 균형 잡기 위한 설계 원칙은 무엇인가?

주요 결과

• 코로나19 관련 스팸의 양은 일주일 사이 거의 3배로 증가했으며, 전 세계 스팸의 약 3%가 이제는 팬데믹과 관련되어 있다.
• 미국에서 가장 많은 참여를 받은 상위 10개 뉴스 사이트 중 8개는 바이러스에 대한 잘못된 정보를 퍼뜨리고 있으며, 이는 가짜 뉴스의 빠른 확산을 보여준다.
• 공중의 상당수—미국인의 약 30%—는 바이러스가 실험실에서 만든 생물무기라고 믿고 있으며, 이는 음모론이 널리 퍼져 있음을 시사한다.
• 약한 감독과 사회 미디어 참여 데이터를 활용해 훈련된 가짜 뉴스 탐지 모델은 광범위한 수동 레이블링 없이도 가짜 정보를 식별하는 데 성능이 향상됨을 보였다.
• 해석 가능한 AI 방법은 가짜 뉴스 예측에 기여하는 특정 텍스트 조각과 사용자 댓글을 성공적으로 식별하여 모델의 투명성을 높였다.
• 엔드 투 엔드 암호화와 분산 저장을 활용한 개인정보 보호 설계의 접촉 추적 시스템은 감시 오용 위험을 줄이면서도 공중 보건 기능을 유지할 수 있었다.