[論文レビュー] The Ethics of Advanced AI Assistants

Iason Gabriel, Arianna Manzini+55 more|arXiv (Cornell University)|Apr 24, 2024

Ethics and Social Impacts of AI被引用数 37

ひとこと要約

この論文は、高度なAIアシスタントの機会、リスク、統治上の課題を体系的に分析し、社会技術的倫理フレームワークと研究者・政策立案者・社会への実行可能な提言を提案する。

ABSTRACT

This paper focuses on the opportunities and the ethical and societal risks posed by advanced AI assistants. We define advanced AI assistants as artificial agents with natural language interfaces, whose function is to plan and execute sequences of actions on behalf of a user, across one or more domains, in line with the user's expectations. The paper starts by considering the technology itself, providing an overview of AI assistants, their technical foundations and potential range of applications. It then explores questions around AI value alignment, well-being, safety and malicious uses. Extending the circle of inquiry further, we next consider the relationship between advanced AI assistants and individual users in more detail, exploring topics such as manipulation and persuasion, anthropomorphism, appropriate relationships, trust and privacy. With this analysis in place, we consider the deployment of advanced assistants at a societal scale, focusing on cooperation, equity and access, misinformation, economic impact, the environment and how best to evaluate advanced AI assistants. Finally, we conclude by providing a range of recommendations for researchers, developers, policymakers and public stakeholders.

研究の動機と目的

• 高度なAIアシスタントの技術的基盤・能力・潜在的な応用を評価する。
• 高度なAIアシスタントの価値の整合性、ウェルビーイング、安全性、悪用の懸念を検討する。
• 人間–AIの相互作用のテーマとして、操作、信頼、プライバシー、そして人間味（Anthropomorphism）などを探る。
• 公平性、誤情報、経済、環境、評価方法など社会的影響を分析する。
• 研究者・開発者・政策立案者・一般市民の利害関係者への提言を提供する。

提案手法

• 倫理的展望を枠組みづけるために、計算機科学、HCI、心理学、経済学、社会学、哲学の学際的知見を統合する。
• 未来志向の倫理と経験的根拠を結びつけた社会技術的な思弁倫理アプローチを提案する。
• 分析を六つの主要テーマ（整合性、ウェルビーイング、安全性、悪用、人間–アシスタントの相互作用、社会的影響）と関連する政策提言に構造化する。
• 人間–AIの相互作用、マルチエージェント動態、社会的スケールの指標を強調した、社会技術的評価ニーズを論じる。
• 利害関係者の協議と責任あるイノベーション原則に基づく政策と統治の提言を提供する。

実験結果

リサーチクエスチョン

• RQ1 高度なAIアシスタントを、以前のAI技術と区別するものは何か？
• RQ2 AIアシスタントの開発を指導するべき能力と限界は何か？
• RQ3 AIアシスタントはユーザー・開発者・社会の価値観にどう整合させるべきか？
• RQ4 安全性、操作、プライバシーの懸念はどのようなものか？
• RQ5 AIアシスタントは信頼、擬人化、関係、協力、格差にどのような影響を与えるか？

主な発見

• 高度なAIアシスタントは、高い自律性と個別化された対話を通じて、仕事・教育・社会的交流に深い影響を与え得る。
• 安全性・悪用・エコシステム全体の影響を管理するためには、堅牢で予見的な（社会技術的）整合性が必要である。
• 擬人化と個人化は信頼・プライバシー・自律性の懸念を引き起こし、不適切な影響からの防護策を必要とする。
• 広範な展開は社会的協調性・公平性・アクセスを変える可能性があり、包摂的な設計と統治が必要である。
• 現在の評価手法は技術的パフォーマンスに焦点を当てており、人間–AI相互作用と社会的影響を含む全体的な社会技術的評価を求めている。
• 開発を広く有益な成果へ導くには、強力な統治・政策作業・公的論議が不可欠である。