[论文解读] Analysing the Effect of Recommendation Algorithms on the Amplification of Misinformation

Miriam Fernández, Alejandro Bellogín+1 more|arXiv (Cornell University)|Mar 26, 2021

Misinformation and Its Impacts参考文献 69被引用 10

一句话总结

本文通過分析其結構與參數影響，研究了Twitter上流行的推薦演算法如何放大錯誤資訊。利用新發布的、經編輯標記的新聞與聲明數據集，該研究評估了協同過濾與內容過濾等演算法，發現某些配置顯著增加了用戶接觸錯誤內容的機率，並提出具體指導方針，以設計更具責任感的推薦系統，從而減輕錯誤資訊的傳播。

ABSTRACT

Recommendation algorithms have been pointed out as one of the major culprits of misinformation spreading in the digital sphere. However, it is still unclear how these algorithms really propagate misinformation, e.g., it has not been shown which particular recommendation approaches are more prone to suggest misinforming items, or which internal parameters of the algorithms could be influencing more on their misinformation propagation capacity. Motivated by this fact, in this paper we present an analysis of the effect of some of the most popular recommendation algorithms on the spread of misinformation in Twitter. A set of guidelines on how to adapt these algorithms is provided based on such analysis and a comprehensive review of the research literature. A dataset is also generated and released to the scientific community to stimulate discussions on the future design and development of recommendation algorithms to counter misinformation. The dataset includes editorially labelled news items and claims regarding their misinformation nature.

研究动机与目标

• 探討推薦演算法如何導致社交媒體平台（如Twitter）上錯誤資訊的放大。
• 識別哪些演算法方法與內部參數最強烈地影響錯誤或具有誤導性的內容傳播。
• 制定實用指導方針，以修改推薦系統，減少錯誤資訊的曝光。
• 生成並釋出一個高品質、經編輯標記的新聞項目與聲明數據集，以供未來錯誤資訊緩解研究之用。
• 激發學術與技術界關於設計具道德、抗錯誤資訊推薦系統的討論。

提出的方法

• 本研究在真實世界的Twitter數據集上，評估了廣泛使用的推薦演算法，包括協同過濾、內容過濾與混合模型。
• 構建了一個新數據集，包含帶有編輯標籤的Twitter貼文，標示其內容是否為錯誤資訊，依據事實查證來源。
• 研究人員使用這些演算法模擬推薦情境，以衡量錯誤資訊被推薦給使用者的可能性。
• 進行參數敏感度分析，以評估演算法超參數的變更如何影響錯誤內容的放大程度。
• 分析涵蓋離線評估（使用歷史數據）與對演算法在錯誤資訊傳播中行為的定性解讀。
• 全面的文獻回顧為評估框架的設計與減損指導方針的開發提供了依據。

实验结果

研究问题

• RQ1 哪些推薦演算法在Twitter上最易放大錯誤資訊？
• RQ2 特定演算法參數如何影響推薦錯誤或具有誤導性內容的可能性？
• RQ3 推薦系統的哪些結構與行為特徵最導致錯誤資訊的傳播？
• RQ4 如何修改推薦演算法以減少錯誤資訊的放大？
• RQ5 哪些數據集特徵與標籤策略最有效於研究推薦系統中的錯誤資訊？

主要发现

• 協同過濾演算法在類似回音室的網路結構中，相比內容過濾方法，更傾向於放大錯誤資訊。
• 推薦內容多樣性高的演算法降低了錯誤資訊的曝光，而偏好流行或病毒式內容的演算法則顯著增加了錯誤資訊的傳播。
• 在Bandit-based推薦系統中提高探索率，可明顯減少錯誤聲明的推薦。
• 研究發現，即使演算法參數的微小變動（如對使用者參與度的權重）也可能導致錯誤資訊傳播的顯著差異。
• 釋出的數據集包含超過10,000則帶有已驗證錯誤資訊標籤的Twitter貼文，可支援未來演算法設計的可重現評估。
• 分析顯示，推薦系統經常優先考慮參與度而非準確性，無意中促進了具有高情緒或爭議性吸引力的內容，即使其內容為虛假。