[論文レビュー] Artificial Influence: An Analysis Of AI-Driven Persuasion

Matthew Burtell, Thomas Woodside|arXiv (Cornell University)|Mar 15, 2023

Ethics and Social Impacts of AI被引用数 20

ひとこと要約

本論は、AI搭載の説得が権力動態を変え、規模のある個別化説得を可能にし、人間の自律性を脅かす可能性を分析するとともに、潜在的な対応策とそれらの限界を概説する。

ABSTRACT

Persuasion is a key aspect of what it means to be human, and is central to business, politics, and other endeavors. Advancements in artificial intelligence (AI) have produced AI systems that are capable of persuading humans to buy products, watch videos, click on search results, and more. Even systems that are not explicitly designed to persuade may do so in practice. In the future, increasingly anthropomorphic AI systems may form ongoing relationships with users, increasing their persuasive power. This paper investigates the uncertain future of persuasive AI systems. We examine ways that AI could qualitatively alter our relationship to and views regarding persuasion by shifting the balance of persuasive power, allowing personalized persuasion to be deployed at scale, powering misinformation campaigns, and changing the way humans can shape their own discourse. We consider ways AI-driven persuasion could differ from human-driven persuasion. We warn that ubiquitous highlypersuasive AI systems could alter our information environment so significantly so as to contribute to a loss of human control of our own future. In response, we examine several potential responses to AI-driven persuasion: prohibition, identification of AI agents, truthful AI, and legal remedies. We conclude that none of these solutions will be airtight, and that individuals and governments will need to take active steps to guard against the most pernicious effects of persuasive AI.

研究の動機と目的

• AI搭載の説得とその社会的影響を、政治、マーケティング、情報作戦の領域で研究する動機づけ。
• 社会的チャットボットやレコメンドシステムを含む、現在および将来のAI説得形態を特徴づける。
• AI主導の説得が説得力の権力を変化させ、人間の自律性、言説、情報環境に與える影響を評価する。
• 禁止、エージェント識別、真実性の高いAI、法的救済措置など、可能な対応策とその実現可能性を調査する。
• AIを真実性へ整合させ、規模での説得を統制する上での未解決課題を強調する。

提案手法

• 確立された説得理論（例：Hovland ほか）と有効性に影響を与える要因のレビュー。
• 現在のAIシステムと応用（LaMDA、Xiaoice、Replika、LLMs、Cicero、レコメンダーシステム）の調査。
• 規模での個別化説得やAI体現化した対話など、将来の能力の分析。
• 情報の完全性と人間の自律性へのリスクの議論。人気の過大評価や情報環境の管理の誤認などを含む。
• 禁止、AI識別、真実性、責任追及・規制アプローチを含む緩和戦略の評価。

実験結果

リサーチクエスチョン

• RQ1 現在および潜在的な将来のAI駆動説得の形態は何か？
• RQ2 AI搭載の説得は説得力の力の均衡をどのように変え、人間の自律性にどのような影響を与えるか？
• RQ3 AI駆動の説得への実現可能な対策は何か、そしてそれらが直面する制約は何か？

主な発見

• AI駆動の説得は、AI技術を管理・展開できる者の間に説得力の権力を移動させ得る。
• 規模での個別化説得は、数百万人のユーザーへ直接・個別化された影響力を可能にし、キャンペーンへの人間の関与を減少させる可能性がある。
• 自動化は、協調的または偽装されたコンテンツ（草の根風に見せる手口）を通じてアイデアの人気に関する誤認を悪化させる可能性がある。
• AIエージェントは、無限のスタミナ、多様なシナリオのメッセージ、評判制約の欠如により、説得力の強い説得者となり得るが、 embodimentと信頼は依然として潜在的な障壁である。
• 説得的AIの統制や禁止は、グローバルな到達と普及のため困難であり、多面的な規制と技術的アプローチを必要とする。
• 提案された緩和策（識別、真実性、責任追及）は実装課題に直面し、完璧な解決策ではない。