[論文レビュー] Dynamics of Algorithmic Content Amplification on TikTok

Fabian Baumann, Nipun Arora+2 more|ArXiv.org|Mar 26, 2025

Advanced Malware Detection Techniques被引用数 4

ひとこと要約

要約: 本論文は GPT-3.5 を用いた sock-puppet の監査を用いて、TikTok の For You フィードがボットの興味と一致するコンテンツを急速に強化すること、トピック特有の差異と、パーソナライズと多様性のトレードオフを示す。

ABSTRACT

Intelligent algorithms increasingly shape the content we encounter and engage with online. TikTok's For You feed exemplifies extreme algorithm-driven curation, tailoring the stream of video content almost exclusively based on users' explicit and implicit interactions with the platform. Despite growing attention, the dynamics of content amplification on TikTok remain largely unquantified. How quickly, and to what extent, does TikTok's algorithm amplify content aligned with users' interests? To address these questions, we conduct a sock-puppet audit, deploying bots with different interests to engage with TikTok's "For You" feed. Our findings reveal that content aligned with the bots' interests undergoes strong amplification, with rapid reinforcement typically occurring within the first 200 videos watched. While amplification is consistently observed across all interests, its intensity varies by interest, indicating the emergence of topic-specific biases. Time series analyses and Markov models uncover distinct phases of recommendation dynamics, including persistent content reinforcement and a gradual decline in content diversity over time. Although TikTok's algorithm preserves some content diversity, we find a strong negative correlation between amplification and exploration: as the amplification of interest-aligned content increases, engagement with unseen hashtags declines. These findings contribute to discussions on socio-algorithmic feedback loops in the digital age and the trade-offs between personalization and content diversity.

研究の動機と目的

• TikTok のアルゴリズムがユーザーの興味と一致するコンテンツをどれだけ迅速に増幅するかを定量化する。
• 時系列とマルコフモデルを用いてレコメンデーション成長のダイナミクスと局面を評価する。
• コンテンツトピック間での増幅のばらつきと、それがコンテンツの多様性と探索に与える影響を評価する。

提案手法

• Gaming、Food、Gaming+Food の異なる興味を持つ sock-puppet ボットを TikTok の For You フィードと相互作用させる。
• GPT-3.5 Turbo を用いて説明文とハッシュタグから動画の関連性を評価する。
• 二値の関連性信号 S_{α,i}(t) を記録し、時窗平均で r_{α,i}(t) を、累積和で C_{α,i}(t) を計算する。
• 変更点検出法によって増幅の発現時点 t_o を同定する。
• 発現後のダイナミクスを（隠れた）マルコフモデルでモデリングし、遷移確率と定常分布を導出する。
• 動画の人気（いいね数）と長さ、ハッシュタグ探索と増幅との関係性を分析する。

実験結果

リサーチクエスチョン

• RQ1 TikTok のアルゴリズムはボットの興味と一致するコンテンツをどれだけ速く増幅するのか？
• RQ2 増幅は時間と興味カテゴリごとにどう進化するのか？
• RQ3 発現後のレコメンデーションのダイナミクスはどうなるのか、マルコフ/HMM で捉えられるか？
• RQ4 コンテンツの増幅と多様なトピックへの露出（探索）との関係はどうなるのか？

主な発見

• 興味と一致するコンテンツの増幅は全条件で強く、通常は最初の約200本の動画内で始まる。
• 発現時点 t_o の平均は Gaming が 65.7 本、Food が 140、本、Gaming+Food が 93.2、本で、斜面 m_{α,i} は Gaming の方が増幅が速いことを示す。
• 累積カウントは高い増幅を示し、Gaming, Food, Gaming+Food にそれぞれ 67.4%、52.3%、67.2% の動画が一致。
• 単純なマルコフモデルは興味に一致するコンテンツに従う確率が高いことを示す（例：Gaming では非興味→興味 67%、興味→興味 68.4%）。
• 隠れマルコフモデルはダイナミカルな複雑さが異なることを示し、Gaming は Food より隠れ状態が少なく、Gaming+Food が中間。
• 興味に一致するコンテンツは非一致よりも人気が低く（いいねが少ない）、長い時間持続する傾向がある。
• より強い増幅はハッシュタグ探索と負の相関を示す（例：c(T) と u(T) の強い負の相関）。
• stationary distributions では約3分の1 のコンテンツが興味と一致しない状態があり、パーソナライズと多様性のバランスを示す。