[論文レビュー] Combating Health Misinformation in Social Media: Characterization, Detection, Intervention, and Open Issues

Canyu Chen, Haoran Wang+4 more|arXiv (Cornell University)|Nov 10, 2022

Misinformation and Its Impacts被引用数 9

ひとこと要約

本サーベイは、ソーシャルメディアにおける健康に関する誤情報について、包括的で学際的なレビューを提供し、研究を特徴化、検出、対策の3つの側面に体系的に整理している。公衆衛生への被害、検出の難しさ、健康格差といった主な課題を特定し、技術的、社会的、政策的アプローチを用いた誤情報対策のための今後の研究方向性を提案する。

ABSTRACT

Social media has been one of the main information consumption sources for the public, allowing people to seek and spread information more quickly and easily. However, the rise of various social media platforms also enables the proliferation of online misinformation. In particular, misinformation in the health domain has significant impacts on our society such as the COVID-19 infodemic. Therefore, health misinformation in social media has become an emerging research direction that attracts increasing attention from researchers of different disciplines. Compared to misinformation in other domains, the key differences of health misinformation include the potential of causing actual harm to humans' bodies and even lives, the hardness to identify for normal people, and the deep connection with medical science. In addition, health misinformation on social media has distinct characteristics from conventional channels such as television on multiple dimensions including the generation, dissemination, and consumption paradigms. Because of the uniqueness and importance of combating health misinformation in social media, we conduct this survey to further facilitate interdisciplinary research on this problem. In this survey, we present a comprehensive review of existing research about online health misinformation in different disciplines. Furthermore, we also systematically organize the related literature from three perspectives: characterization, detection, and intervention. Lastly, we conduct a deep discussion on the pressing open issues of combating health misinformation in social media and provide future directions for multidisciplinary researchers.

研究の動機と目的

• ソーシャルメディアにおける健康に関する誤情報の増加する脅威に対処する。これは公衆衛生に直接的なリスクをもたらし、有害な行動を引き起こす可能性がある。
• 政治やエンターテインメントなどの他の分野における誤情報と比較して、健康に関する誤情報が有する独自の特徴を分析する。具体的には、身体的被害の可能性と医学的専門知識への依存性がその特徴である。
• コンピュータサイエンス、公衆衛生、社会科学の分野を横断して、既存の研究を3つのコアフェーズに体系化する：特徴化、検出、対策。
• 健康格差、AIバイアス、現在の対策の有効性といった、重要な未解決問題を浮き彫りにする。
• 研究ギャップを特定し、実行可能な研究方向性を提案することで、今後の学際的・包括的研究を導く。

提案手法

• コンピュータサイエンス、公衆衛生、社会学の分野からなる体系的文献レビューを実施し、健康に関する誤情報研究の全体像をマッピングする。
• 検出手法を6つのクラスに分類する：健康コンテンツ分析、ユーザー参加行動モデリング、社会的構造分析、生物医学的知識統合、マルチモーダル分析、クロスドメイン活用。
• 政府政策、組織的対応（例：プラットフォームのモデレーション）、個人レベルの取り組み（例：メディアリテラシー）の3段階で介入戦略を分析する。
• 拡散パターンと影響戦略（例：協調的ボット活動、感情的操作）を検討する。
• AIが誤情報の検出に貢献する一方で、とりわけマイノリティコミュニティにおいて悪化させる可能性がある点を評価する。
• 再現性のある健康に関する誤情報検出・緩和研究を支援するため、既存のデータセットとツールを統合する。

実験結果

リサーチクエスチョン

• RQ1 ソーシャルメディアにおける健康に関する誤情報の主な原因、影響、拡散パターンは何か？
• RQ2 政治やエンターテインメントなどの他の分野における誤情報と比較して、健康に関する誤情報が有する特徴は何か？
• RQ3 多様なモダリティやプラットフォームにわたる健康に関する誤情報の検出に、最も効果的な技術的・社会的戦略は何か？
• RQ4 現在の介入策は、代表されないグループやマイノリティコミュニティに悪影響を及けることなく、誤情報をどれだけ軽減できるか？
• RQ5 健康に関する誤情報は、既存の健康格差をどのように促進するか？AIはこのダイナミクスにおいて果たす役割は何か？

主な発見

• 健康に関する誤情報は、身体的被害を直接引き起こす可能性があるため、他に類例のない危険性を有する。例として、コロナウイルスの治療法として漂白剤を推奨するような事例が挙げられる。
• 低所得者層の人は、健康に関する誤情報をより受け入れがちであり、これが健康格差や危険な行動の増加要因となる。
• 生物医学的知識とマルチモーダル信号（例：テキスト、画像、動画）を統合する検出モデルは、言語的または参加行動に基づく特徴に依存するモデルよりも高い精度を示す。
• バイアスの監査が不十分な場合、AIを用いた介入策は健康格差を拡大させるリスクを有する。特にマイノリティコミュニティにおいて顕著である。
• 現在のプラットフォームレベルの介入策（例：コンテンツ警告、事実確認）は、実世界における拡散結果の観点から、有効性が不確実であり、厳密な評価が不足している。
• 健康に関する誤情報と公的健康データに記録された健康格差の関連性を示す研究が、極めて不足している。特にマイノリティや支援が不足している地域において顕著である。