[論文レビュー] Combating Fake News with Interpretable News Feed Algorithms

Sina Mohseni, Eric D. Ragan|arXiv (Cornell University)|Nov 29, 2018

Misinformation and Its Impacts参考文献 35被引用数 11

ひとこと要約

本稿では、コンテンツキュレーションプロセスの理解を高めることでフェイクニュース対策を行う解釈可能なニュースフィードアルゴリズムを提案する。個人向けのレコメンデーションがどのように生成されるかを透明でユーザーが調整可能なフィルタを用いて説明することで、エコーチャンバーを軽減し、曇ったシステムへの無批判的信頼を減らし、より情報に基づいたメディア消費を促進し、誤情報への感受性を低減する。

ABSTRACT

Nowadays, artificial intelligence algorithms are used for targeted and personalized content distribution in the large scale as part of the intense competition for attention in the digital media environment. Unfortunately, targeted information dissemination may result in intellectual isolation and discrimination. Further, as demonstrated in recent political events in the US and EU, malicious bots and social media users can create and propagate targeted `fake news' content in different forms for political gains. From the other direction, fake news detection algorithms attempt to combat such problems by identifying misinformation and fraudulent user profiles. This paper reviews common news feed algorithms as well as methods for fake news detection, and we discuss how news feed algorithms could be misused to promote falsified content, affect news diversity, or impact credibility. We review how news feed algorithms and recommender engines can enable confirmation bias to isolate users to certain news sources and affecting the perception of reality. As a potential solution for increasing user awareness of how content is selected or sorted, we argue for the use of interpretable and explainable news feed algorithms. We discuss how improved user awareness and system transparency could mitigate unwanted outcomes of echo chambers and bubble filters in social media.

研究の動機と目的

• ソーシャルメディアにおけるパーソナライズドニュースフィードアルゴリズムによるフェイクニュース拡散の増加という問題に対処すること。
• 不透明で偏りのあるレコメンデーションシステムが、知的孤立、エコーチャンバー、フィルターバブルをどのように助長するかを調査すること。
• アルゴリズムの透明性と解釈可能性が、ユーザーの意識と責任感を高める役割を調査すること。
• ブラックボックス型レコメンデーションシステムから、説明可能でユーザーが関与するニュースキュレーションメカニズムへの移行を提案すること。
• ユーザーがコンテンツ選択基準を理解・調整できるようにすることで、政治的操作や誤情報のリスクを低減すること。

提案手法

• システム的バイアスや脆弱性を特定するために、既存のニュースフィードおよびフェイクニュース検出アルゴリズムをレビューすること。
• ユーザーの関与を最優先するパーソナライズドレコメンデーションシステムが、確認バイアスをどのように強化するかを分析すること。
• コンテンツ選択基準を説明可能な手法でニュースフィードアルゴリズムに統合する提案を行うこと。
• 可視化およびユーザー向けのモデルパラメータの説明を用いて、ニュースコンテンツに適用されるソフトフィルタを明らかにすること。
• 説明可能なAI（XAI）およびレコメンデーションシステム分野の先行研究を基に、透明性がありユーザーが調整可能なフィルタリングメカニズムを設計すること。
• アルゴリズムの透明性に関するユーザースタディの知見を活用し、説明可能なニュースフィードインターフェースの設計を支援すること。

実験結果

リサーチクエスチョン

• RQ1 現在のパーソナライズドニュースフィードアルゴリズムは、フェイクニュースの拡散およびエコーチャンバー形成にどのように寄与しているか？
• RQ2 アルゴリズムによるキュレーションについてのユーザーの無知が、ニュースコンテンツ選択に対する無批判的信頼を生じる程度はどの程度か？
• RQ3 ニュースフィードアルゴリズムの解釈可能な説明を提供することで、ユーザーの意識が高まり、誤情報への感受性が低下するか？
• RQ4 コンテンツベースのレコメンデーションとソーシャルベースのレコメンデーションのユーザーの好みが、透明なニュースフィードシステムの設計に果たす役割は何か？
• RQ5 解釈可能なアルゴリズムは、ユーザーがバイアスを検出したり、レコメンデーションシステムの影響力を制御したりするのをどのように支援するか？

主な発見

• ユーザーはニュースフィードアルゴリズムの動作方法について顕著な無知を示しており、曇ったシステムへの無批判的信頼を生じさせている。
• Raderらがテストしたようなニュースフィードアルゴリズムの説明は、ユーザーの意識を高め、アルゴリズムバイアスや制御感の認識を改善する。
• 特に個人情報が関係する分野では、ユーザーはソーシャルベースのレコメンデーションよりもコンテンツベースのレコメンデーション手法を好む。
• アルゴリズム設計者の目的とユーザーの期待との不一致は、ソーシャルメディアプラットフォームにおける長期的エンゲージメントを低下させる可能性がある。
• フィルタリングメカニズムを明らかにする解釈可能なアルゴリズムは、ユーザーがバイアスのあるモデルや不審なコンテンツ出力を検出するのを支援する。
• 説明可能なAIをニュースレコメンデーションシステムに統合することで、透明性とユーザーの責任感を高め、フェイクニュースの拡散を低減できる。