[論文レビュー] The closed loop between opinion formation and personalised recommendations

Wilbert Samuel Rossi, Jan Willem Polderman+1 more|arXiv (Cornell University)|Sep 12, 2018

Opinion Dynamics and Social Influence参考文献 36被引用数 8

ひとこと要約

本稿は、ユーザーの意見形成とパーソナライズドニュース推薦の間のフィードバックループを扱える数学的モデルを提案し、確認バイアスを強化するレコメンデーションシステムがユーザーの意見をより極端な方向へ引きずり込むことを示している。主な発見は、定量的トレードオフである：パーソナライズド推薦によるクリック率の向上は、意見の歪みが増加する代償を伴う。この関係は、意見のずれとエンゲージメントの増加の間で解析的に定式化されている。

ABSTRACT

In online platforms, recommender systems are responsible for directing users to relevant contents. In order to enhance the users' engagement, recommender systems adapt their output to the reactions of the users, who are in turn affected by the recommended contents. In this work, we study a tractable analytical model of a user that interacts with an online news aggregator, with the purpose of making explicit the feedback loop between the evolution of the user's opinion and the personalised recommendation of contents. More specifically, we assume that the user is endowed with a scalar opinion about a certain issue and seeks news about it on a news aggregator: this opinion is influenced by all received news, which are characterized by a binary position on the issue at hand. The user is affected by a confirmation bias, that is, a preference for news that confirm her current opinion. The news aggregator recommends items with the goal of maximizing the number of user's clicks (as a measure of her engagement): in order to fulfil its goal, the recommender has to compromise between exploring the user's preferences and exploiting what it has learned so far. After defining suitable metrics for the effectiveness of the recommender systems (such as the click-through rate) and for its impact on the opinion, we perform both extensive numerical simulations and a mathematical analysis of the model. We find that personalised recommendations markedly affect the evolution of opinions and favor the emergence of more extreme ones: the intensity of these effects is inherently related to the effectiveness of the recommender. We also show that by tuning the amount of randomness in the recommendation algorithm, one can seek a balance between the effectiveness of the recommendation system and its impact on the opinions.

研究の動機と目的

• オンラインニュースプラットフォームにおけるユーザーの意見進化とパーソナライズドレコメンデーションシステムの閉ループ的相互作用をモデル化すること。
• 確認バイアスとレコメンデーション戦略が、意見の極端さとユーザーのエンゲージメントに与える影響を定量的に分析すること。
• レコメンデーションの効果（クリックスルーレート）とその意見歪みへの影響のトレードオフを分析すること。
• レコメンデーションアルゴリズムにおけるランダムネスの調整が、エンゲージメントと意見の安定性のバランスをどのように取れるかを検討すること。

提案手法

• 政治的または社会的問題における二値の立場（+1 または -1）を持つニュースアイテムを受け取ることで、ユーザーが自分の意見を更新するスカラー意見モデル。
• ユーザーは確認バイアスを示し、現在の意見と一致する立場のニュースのクリック確率が上昇する。
• クリック数を最大化するために、探索（未知の立場のテスト）と活用（高クリックアイテムの推薦）のバランスを取るエプシロン・グリーディ戦略を採用するレコメンデーションシステム。
• ユーザーの意見は、時間経過とともにニュースを統合するアフィンダイナミカルシステムとして進化し、学習率とノイズを制御するパラメータを備える。
• 定常状態における意見とクリックスルーレートの解析的解が導出され、意見歪みとエンゲージメント増加の定量的評価が可能になる。
• 数値シミュレーションにより、推薦バイアス（エプシロン）とユーザーの初期意見の異なるレベルにおける解析結果の妥当性が検証された。

実験結果

リサーチクエスチョン

• RQ1 確認バイアスが存在する中で、パーソナライズドレコメンデーションはユーザーの意見の長期的進化にどのように影響するか？
• RQ2 レコメンデーションシステムのパフォーマンス（クリックスルーレート）とその意見極端さへの影響との間の定量的関係は何か？
• RQ3 レコメンデーションアルゴリズムにおける探索と活用のトレードオフを調整することで、意見歪みをどの程度軽減できるか？
• RQ4 初期ユーザーの意見とレコメンデーションバイアスパラメータのエプシロンが、最終的な意見とエンゲージメントにどのように影響するか？

主な発見

• パーソナライズドレコメンデーションは意見の極端さを顕著に増幅させ、意見歪みΔusr±は(1−2ε)に比例して線形に増加する。ここでεはレコメンデーションバイアスを制御する。
• クリックスルーレートの増加Γctr±は、意見歪みに従って増加し、解析的関係式Γctr± = ½(α/γ)o_usr⁰Δusr± + ½((α+γ)/γ)(Δusr±)²に従う。これは、エンゲージメントと意見のずれの間の直接的なトレードオフを示している。
• ε ≠ 0.5の場合、Δusr± = ±(γ/(α+γ))(1−2ε)という持続的で不変の意見歪みが生じる。つまり、レコメンデーションのわずかなバイアスでさえも、測定可能な意見のシフトを引き起こす。
• モデルは、活用（レコメンデーション効果の向上）を強化することで意見の極端さが増加することを確認しており、一方で探索を増やすと歪みは減少するが、その代わりにエンゲージメントが低下する。
• シミュレーション結果は解析的予測を強く支持しており、多様なパrameter設定において、実測のクリックスルーレートの増加と予測された意見歪みの間で強い一致が得られた。