[論文レビュー] Modeling Content Creator Incentives on Algorithm-Curated Platforms

Jiri Hron, Karl Krauth+3 more|arXiv (Cornell University)|Jun 27, 2022

FinTech, Crowdfunding, Digital Finance被引用数 5

ひとこと要約

本稿では、アルゴリズムによってカーリングされたプラットフォームにおけるコンテンツ作成者の戦略的インcentiveを形式化するゲーム理論的モデル「露出ゲーム」を紹介する。作成者が埋め込み表現を用いてアルゴリズム的露出を最適化する様子をモデル化することで、非負性制約あり vs. 無制限の因子分解といったアルゴリズム的選択がナッシュ均衡の存在と性質に顕著に影響することを示し、アルゴリズム設計、コンテンツ多様性、性別に基づくユーザーおよび作成者グループへのバイアスの間の強い関連性を明らかにする。

ABSTRACT

Content creators compete for user attention. Their reach crucially depends on algorithmic choices made by developers on online platforms. To maximize exposure, many creators adapt strategically, as evidenced by examples like the sprawling search engine optimization industry. This begets competition for the finite user attention pool. We formalize these dynamics in what we call an exposure game, a model of incentives induced by algorithms, including modern factorization and (deep) two-tower architectures. We prove that seemingly innocuous algorithmic choices, e.g., non-negative vs. unconstrained factorization, significantly affect the existence and character of (Nash) equilibria in exposure games. We proffer use of creator behavior models, like exposure games, for an (ex-ante) pre-deployment audit. Such an audit can identify misalignment between desirable and incentivized content, and thus complement post-hoc measures like content filtering and moderation. To this end, we propose tools for numerically finding equilibria in exposure games, and illustrate results of an audit on the MovieLens and LastFM datasets. Among else, we find that the strategically produced content exhibits strong dependence between algorithmic exploration and content diversity, and between model expressivity and bias towards gender-based user and creator groups.

研究の動機と目的

• アルゴリズム的ランク付けに依存する露出の下で、アルゴリズムカーリングプラットフォームにおけるコンテンツ作成者の戦略的インセンティブを形式化すること。
• 非負性あり vs. 無制限の埋め込みといった、見かけ上些細なアルゴリズム的設計選択が、コンテンツ作成におけるナッシュ均衡の存在と構造に与える影響を分析すること。
• 露出ゲームを用いた前段階監査フレームワークを構築し、アルゴリズムの展開前に望ましいコンテンツとインcentivizedコンテンツの不一致を検出すること。
• MovieLensおよびLastFMのデータセットを用いて、アルゴリズム的パラメータ（例：埋め込み次元、探索レベル）がコンテンツ多様性および表現バイアスに与える影響を実証的に評価すること。

提案手法

• 露出ゲームを非協力ゲームとして形式化し、作成者（プレイヤー）が固定されたアルゴリズム下で露出を最大化するためのコンテンツ戦略（埋め込み）を選択する。
• 露出を、ユーザー・アイテム埋め込みに基づくソフトマックスベースのランク付け関数を通じて計算される、ユーザーが作成者のコンテンツを表示する期待確率としてモデル化する。
• 局所ナッシュ均衡（LNE）を数値的に計算するために、単位球面上での勾配上昇法を用い、戦略を単位球面に制約することで正規化を保証する。
• 2次のリーマン多様体テストを適用し、計算された固定点が実際に局所ナッシュ均衡であるかを検証する。これは接空間におけるヘッセ行列が負定値であるかを確認することで行う。
• 前段階監査として、さまざまなアルゴリズム的設定（例：NMF vs. PMF、異なる埋め込み次元、探索レベル）におけるLNEのシミュレーションを実施する。
• 行列分解に基づくレコメンデーションシステム（バイアス付きPMFを含む）を用いて、実世界のアルゴリズム的システムを模擬し、その結果得られるコンテンツインセンティブを分析する。

実験結果

リサーチクエスチョン

• RQ1 非負性あり vs. 無制限の因子分解といったアルゴリズム的選択が、コンテンツ作成ゲームにおけるナッシュ均衡の存在と多重性にどのように影響するか？
• RQ2 アルゴリズム的探索（温度ハイパーパrameter）と、その結果生じるコンテンツ多様性および戦略的専門化の関係は何か？
• RQ3 モデルの表現力（例：埋め込み次元）が、インcentivizedコンテンツにおける特定の性別グループに基づくユーザーまたは作成者グループへのバイアスにどのように影響するか？
• RQ4 露出ゲームは、アルゴリズム展開前に望ましいコンテンツとインcentivizedコンテンツの不一致を検出できる実用的な前段階監査ツールとして有効に機能するか？
• RQ5 学習率や温度などのアルゴリズム的ハイパーパrameterの変更が、均衡の構造とその結果生じるコンテンツのあり方をどの程度変化させるか？

主な発見

• 非負性因子分解では一意なナッシュ均衡が得られるが、無制限因子分解では複数の均衡が生じる可能性があり、アルゴリズム設計が戦略的結果を直接的に形作っていることが示された。
• 高いアルゴリズム的探索（高い温度）は、広く受け入れられるコンテンツの作成をインセンティブ化するが、低探索では特化型・ニッチコンテンツの作成が促進される。
• コンテンツ多様性はアルゴリズム的探索とモデルの表現力に強く依存しており、高い埋め込み次元は一部の設定において多様性を拡大する。
• 露出ゲームモデルは、特定のアルゴリズムアーキテクチャ下で、特定の性別グループに基づくユーザーおよび作成者グループへのインセンティブコンテンツにおける顕著なバイアスを明らかにした。
• 2次のリーマン多様体テストは、LastFMでは90％以上の実行、MovieLensでは70％以上の実行でLNEを正しく検証し、計算された均衡の堅牢性を裏付けた。
• 露出ゲームを用いた前段階監査により、望ましいコンテンツとインcentivizedコンテンツの不一致が検出され、本手法がアルゴリズムガバナンスの予防的ツールとしての可能性を示した。