[論文レビュー] Information Credibility in the Social Web: Contexts, Approaches, and Open Issues

Gabriella Pasi, Marco Viviani|arXiv (Cornell University)|Jan 26, 2020

Misinformation and Its Impacts参考文献 50被引用数 9

ひとこと要約

本稿は、ソーシャルウェブにおける情報信頼性の評価手法について包括的なサーベイを提示し、意見スパム、フェイクニュース、健康関連の誤情報の3つの主要な文脈に焦点を当てる。データ駆動型、モデル駆動型、グラフベース型、知識ベース型の既存の手法を分類し、その長所と短所を強調し、知識ベースの保守、誤ったコンテンツの早期検出、信頼性評価システムにおける機密ユーザー情報の取り扱いといった未解決の問題を特定する。

ABSTRACT

In the Social Web scenario, large amounts of User-Generated Content (UGC) are diffused through social media often without almost any form of traditional trusted intermediaries. Therefore, the risk of running into misinformation is not negligible. For this reason, assessing and mining the credibility of online information constitutes nowadays a fundamental research issue. Credibility, also referred as believability, is a quality perceived by individuals, who are not always able to discern, with their own cognitive capacities, genuine information from fake one. Hence, in the last years, several approaches have been proposed to automatically assess credibility in social media. Many of them are based on data-driven models, i.e., they employ machine learning techniques to identify misinformation, but recently also model-driven approaches are emerging, as well as graph-based approaches focusing on credibility propagation, and knowledge-based ones exploiting Semantic Web technologies. Three of the main contexts in which the assessment of information credibility has been investigated concern: (i) the detection of opinion spam in review sites, (ii) the detection of fake news in microblogging, and (iii) the credibility assessment of online health-related information. In this article, the main issues connected to the evaluation of information credibility in the Social Web, which are shared by the above-mentioned contexts, are discussed. A concise survey of the approaches and methodologies that have been proposed in recent years to address these issues is also presented.

研究の動機と目的

• 伝統的な仲介者がないことと誤情報の増加によって、ソーシャルウェブにおける情報信頼性の評価が困難になる理由を分析すること。
• 意見スパム、フェイクニュース、健康関連情報の3つの主要な文脈において、自動的信頼性評価のための最先端のアプローチを分類・比較すること。
• これらの文脈に共通する未解決の課題、特に知識ベースの保守、誤ったコンテンツの早期検出、機密ユーザー情報の取り扱いを特定すること。
• 特にドメイン知識、機械学習、リアルタイム検出を統合したハイブリッドモデルを含む、今後の研究の方向性を提案すること。

提案手法

• 信頼性評価アプローチをデータ駆動型（例：機械学習）、モデル駆動型、グラフベース型（拡散分析用）、知識ベース型（セマンティックウェブおよび知識ベースを用いる）に分類する。
• SPO（主語-述語-目的語）の三項対を信頼できる事実と照合することで、知識ベースを用いた情報の検証の仕組みを分析し、既存の三項対を信頼性評価の根拠として扱う。
• 情報がソーシャルネットワークを通じてどのように拡散するかを追跡する拡散ベースの手法の評価を行い、スパムボットや誤情報の拡散パターンを特定する。
• 複数基準意思決定（MCDM）モデルが複数の信頼性指標を重み付けして評価するが、解釈可能性とスケーラビリティの面で課題があると指摘する。
• 学習データが限られている、あるいはバイアスがある状況においても、教師あり学習とドメイン知識、リアルタイムデータを統合したハイブリッドアプローチを提案する。
• フィルタリングアルゴリズムやユーザープロファイリングがエコーチャンバーとフィルターバブルを強化する役割を果たし、信頼性の認識と拡散に影響を与えることについて検討する。

実験結果

リサーチクエスチョン

• RQ1 データ駆動型、モデル駆動型、グラフベース型、知識ベース型のアプローチは、ソーシャルメディアにおける信頼性評価のメカニズムと有効性において、どのように異なるか？
• RQ2 意見スパム、フェイクニュース、健康関連の誤情報という文脈において、共通して生じる信頼性評価の課題は何か？
• RQ3 急速に変化するソーシャルメディア環境において、知識ベースを正確かつ関連性のある状態に保つにはどうすればよいか？
• RQ4 確認バイアスやエコーチャンバー効果といったユーザ行動パターンが、信頼性評価システムの信頼性を損なう役割を果たすメカニズムは何か？
• RQ5 フェイクニュースや嫌がらせ発言のような有害コンテンツの早期検出は、広範な拡散を防ぐために、どのように達成できるか？

主な発見

• 知識ベース型アプローチは、SPO三項対を信頼できる知識ベースと照合することで、情報の検証を効果的に行えるが、欠落した事実の処理やタイムリーな更新の課題に直面する。
• 拡散ベースの手法は、誤情報の拡散者を特定し、偽のコンテンツの拡散を追跡するのに有効であるが、複雑なグラフ解析と事前計算された信頼性スコアを必要とする。
• 教師あり学習アプローチは、しばしば『ブラックボックス』としての解釈不能性とデータ依存性に苦しむが、特に学習データが限られたりバイアスがある場合に顕著である。
• ドメイン知識と機械学習の統合は、正確性が求められ、誤りの影響が深刻な文脈（例：健康関連情報）において有望である。
• 誤りまたは有害なコンテンツの早期検出は、依然として主要な未解決の課題であり、広範な拡散前に誤情報のリアルタイム同定に進展が限られている。
• ユーザ生成コンテンツに含まれる機密または感受性の高い情報の取り扱いは、適切に洗練された場合に情報源の信頼性評価を向上させ得るが、その分野はまだ十分に研究されていない。