[论文解读] Combating Fake News with Interpretable News Feed Algorithms

Sina Mohseni, Eric D. Ragan|arXiv (Cornell University)|Nov 29, 2018

Misinformation and Its Impacts参考文献 35被引用 11

一句话总结

本文提出可解释的新闻流算法，通过提高用户对内容筛选过程的认知，以应对虚假新闻问题。通过透明且可由用户调整的过滤器，解释个性化推荐的生成方式，减少回音室效应和用户对不透明系统的盲目信任，从而促进更明智的媒体消费，并降低对虚假信息的易感性。

ABSTRACT

Nowadays, artificial intelligence algorithms are used for targeted and personalized content distribution in the large scale as part of the intense competition for attention in the digital media environment. Unfortunately, targeted information dissemination may result in intellectual isolation and discrimination. Further, as demonstrated in recent political events in the US and EU, malicious bots and social media users can create and propagate targeted `fake news' content in different forms for political gains. From the other direction, fake news detection algorithms attempt to combat such problems by identifying misinformation and fraudulent user profiles. This paper reviews common news feed algorithms as well as methods for fake news detection, and we discuss how news feed algorithms could be misused to promote falsified content, affect news diversity, or impact credibility. We review how news feed algorithms and recommender engines can enable confirmation bias to isolate users to certain news sources and affecting the perception of reality. As a potential solution for increasing user awareness of how content is selected or sorted, we argue for the use of interpretable and explainable news feed algorithms. We discuss how improved user awareness and system transparency could mitigate unwanted outcomes of echo chambers and bubble filters in social media.

研究动机与目标

• 为应对社交媒体中个性化新闻流算法导致的虚假新闻传播问题。
• 探究不透明、有偏见的推荐系统如何加剧认知隔离、回音室效应和过滤气泡现象。
• 探讨算法透明度与可解释性在提升用户认知与问责意识方面的作用。
• 提出从黑箱推荐系统向可解释、用户知情的新闻筛选机制转变。
• 通过让用户理解并调整内容选择标准，降低政治操纵和虚假信息传播的风险。

提出的方法

• 回顾现有新闻流与虚假新闻检测算法，识别系统性偏见与脆弱性。
• 分析个性化推荐系统如何因优先考虑用户参与度而非内容可信度，而放大确认偏误。
• 提出将可解释机器学习技术整合到新闻流算法中，以说明内容筛选标准。
• 通过可视化与面向用户的信息展示模型参数，揭示对新闻内容应用的软性过滤机制。
• 借鉴可解释人工智能（XAI）与推荐系统领域的既有研究，设计透明且可由用户调整的过滤机制。
• 应用关于算法透明度的用户研究洞察，指导可解释新闻流界面的设计。

实验结果

研究问题

• RQ1 当前的个性化新闻流算法在多大程度上助长了虚假新闻的传播并导致回音室的形成？
• RQ2 用户对算法筛选过程的无知在多大程度上导致其对内容选择产生盲目信任？
• RQ3 提供新闻流算法的可解释性说明，是否能提升用户认知并降低其对虚假信息的易感性？
• RQ4 用户在内容导向与社交导向推荐之间的偏好，在透明新闻流系统设计中扮演何种角色？
• RQ5 可解释算法如何帮助用户识别偏见并控制推荐系统对其新闻消费的影响？

主要发现

• 用户对新闻流算法的运作方式存在显著无知，导致其对不透明系统产生盲目信任。
• 对新闻流算法的解释（如 Rader 等人所测试的）可提升用户认知，并改善其对算法偏见与控制感的感知。
• 在新闻等敏感领域，用户更偏好基于内容的推荐方式，尤其在涉及个人数据时。
• 算法设计者的目标与用户期望之间的错配，可能降低用户在社交媒体平台上的长期参与度。
• 能够揭示过滤机制的可解释算法，有助于用户识别有偏模型与可疑内容输出。
• 将可解释人工智能整合到新闻推荐系统中，可通过提升透明度与用户问责，减少虚假新闻的传播。