[論文レビュー] Embedding Democratic Values into Social Media AIs via Societal Objective Functions

Chenyan Jia, Michelle S. Lam+3 more|arXiv (Cornell University)|Jul 26, 2023

Social Media and Politics参考文献 89被引用数 4

ひとこと要約

本稿では、社会的科学の構築された概念を社会的目的関数に翻訳することで、ソーシャルメディアのAIフィード順序付けアルゴリズムに民主的価値——特に派閥的敵意の低減——を埋め込む手法を提案する。大規模言語モデル（LLM）を用いて投稿内容の反民主的態度をスコア化し、3つの研究を通じて、そのようなコンテンツを低ランク化することで、ユーザーの関与に悪影響を及げることなく、派閥的敵意を顕著に低減できることを実証した。

ABSTRACT

Can we design artificial intelligence (AI) systems that rank our social media feeds to consider democratic values such as mitigating partisan animosity as part of their objective functions? We introduce a method for translating established, vetted social scientific constructs into AI objective functions, which we term societal objective functions, and demonstrate the method with application to the political science construct of anti-democratic attitudes. Traditionally, we have lacked observable outcomes to use to train such models, however, the social sciences have developed survey instruments and qualitative codebooks for these constructs, and their precision facilitates translation into detailed prompts for large language models. We apply this method to create a democratic attitude model that estimates the extent to which a social media post promotes anti-democratic attitudes, and test this democratic attitude model across three studies. In Study 1, we first test the attitudinal and behavioral effectiveness of the intervention among US partisans (N=1,380) by manually annotating (alpha=.895) social media posts with anti-democratic attitude scores and testing several feed ranking conditions based on these scores. Removal (d=.20) and downranking feeds (d=.25) reduced participants' partisan animosity without compromising their experience and engagement. In Study 2, we scale up the manual labels by creating the democratic attitude model, finding strong agreement with manual labels (rho=.75). Finally, in Study 3, we replicate Study 1 using the democratic attitude model instead of manual labels to test its attitudinal and behavioral impact (N=558), and again find that the feed downranking using the societal objective function reduced partisan animosity (d=.25). This method presents a novel strategy to draw on social science theory and methods to mitigate societal harms in social media AIs.

研究の動機と目的

• ソーシャルメディアAIアルゴリズムが派閥的敵意を助長し、民主的議論を損なうという社会的害が拡大する問題に対処すること。
• 派閥的敵意を軽減するAIシステムを訓練するための、観察可能でアルゴリズム的に扱える結果の欠如を克服すること。
• 反民主的態度のような、厳密に検証された社会的科学的構築物を、AIシステムに実行可能で測定可能な目的に翻訳する手法を開発すること。
• これらの社会的目的関数をフィード順序付けアルゴリズムに統合することで、派閥的敵意を低減し、ユーザーの関与を維持できるかどうかを評価すること。
• 表現の自由、価値のトレードオフ、弱い立場のコミュニティへの不均等な影響といったリスクに対処することで、倫理的な展開を確保すること。

提案手法

• 反民主的態度に関する、既存の社会的科学的アンケート尺度および定性的コードブックを、LLMが解釈可能な詳細なプロンプトに翻訳すること。
• これらのプロンプトに基づいて大規模言語モデル（LLM）を訓練し、投稿が反民主的態度をどの程度促進しているかを推定する「民主的態度モデル」を構築すること。
• 民主的態度モデルを用いて、ソーシャルメディア投稿に対して自動ラベルを付与し、手動アノテーションと照合（加重カッパ = .895）すること。
• 反民主的態度スコアが高い投稿を低ランク化または削除する社会的目的関数をフィード順序付けに実装すること。
• ユーザーの態度や行動に与える影響をテストするため、ランダム化されたフィード順序付け条件を用いた制御実験を設計すること。
• 手動アノテーション（研究1）、モデルスケーリング（研究2）、自動化された干渉（研究3）の3つの研究を通じて、手法の妥当性を検証すること。

実験結果

リサーチクエスチョン

• RQ1 反民主的態度に基づく社会的目的関数を統合したソーシャルメディアフィード順序付けアルゴリズムは、ユーザーの派閥的敵意を低減できるか？
• RQ2 反民主的態度スコアが高い投稿を低ランク化または削除することは、ユーザーの関与や体験に影響を及ぼすか？
• RQ3 LLMを用いた民主的態度モデルは、人間によるアノテーションスコアとどの程度整合性を示すか？
• RQ4 社会的目的関数の手法は、ユーザー体験を損なうことなく、実世界の環境でもスケーラブルかつ再現可能か？
• RQ5 アルゴリズム順序付けシステムに民主的規範のような社会的価値を組み込む際の倫理的リスクとトレードオフは何か？

主な発見

• 研究1において、反民主的コンテンツの削除は、派閥的敵意を小〜中程度の効果量（d = .20）で低減した。
• 研究1において、同様のコンテンツを低ランク化することで、派閥的敵意は中程度の効果量（d = .25）で低減したが、ユーザー関与に顕著な悪影響は認められなかった。
• LLMを用いた民主的態度モデルは、手動アノテーションと強く一致した（スピアーマンのrho = .75）、信頼性が裏付けられた。
• 研究3では、手動ラベルの代わりに自動モデルを用いた低ランク化干渉を再現したが、依然として派閥的敵意が低減した（d = .25）、スケーラビリティが確認された。
• 社会的科学的構築物をアルゴリズム的目的に効果的に翻訳でき、AIシステムにおける社会的害の測定可能な低減が可能になった。
• 本手法は、ユーザー関与を維持しながら否定的ない Political affect（政治的感情）を低減できるため、ソーシャルメディアプラットフォームにおける価値に整合したAI設計の実現可能性を示唆している。