[論文レビュー] Relational Norms for Human-AI Cooperation

Brian D. Earp, Sebastian Porsdam Mann+60 more|ArXiv.org|Feb 17, 2025

Ethics and Social Impacts of AI被引用数 6

ひとこと要約

本論文は、人間の関係規範が社会的AIの設計と対話を導くべきであると主張し、AIが関係特有の機能を果たせるかどうか、倫理的影響を分析する。

ABSTRACT

How we should design and interact with social artificial intelligence depends on the socio-relational role the AI is meant to emulate or occupy. In human society, relationships such as teacher-student, parent-child, neighbors, siblings, or employer-employee are governed by specific norms that prescribe or proscribe cooperative functions including hierarchy, care, transaction, and mating. These norms shape our judgments of what is appropriate for each partner. For example, workplace norms may allow a boss to give orders to an employee, but not vice versa, reflecting hierarchical and transactional expectations. As AI agents and chatbots powered by large language models are increasingly designed to serve roles analogous to human positions - such as assistant, mental health provider, tutor, or romantic partner - it is imperative to examine whether and how human relational norms should extend to human-AI interactions. Our analysis explores how differences between AI systems and humans, such as the absence of conscious experience and immunity to fatigue, may affect an AI's capacity to fulfill relationship-specific functions and adhere to corresponding norms. This analysis, which is a collaborative effort by philosophers, psychologists, relationship scientists, ethicists, legal experts, and AI researchers, carries important implications for AI systems design, user behavior, and regulation. While we accept that AI systems can offer significant benefits such as increased availability and consistency in certain socio-relational roles, they also risk fostering unhealthy dependencies or unrealistic expectations that could spill over into human-human relationships. We propose that understanding and thoughtfully shaping (or implementing) suitable human-AI relational norms will be crucial for ensuring that human-AI interactions are ethical, trustworthy, and favorable to human well-being.

研究の動機と目的

• 階層、ケア、取引などの規範に支配された人間の関係的役割を、社会AIが模倣するべきか、あるいはそれらを占有すべきかを検討する。
• AIと人間の違い（意識の欠如、疲労耐性があることなど）が規範の遵守に与える影響を評価する。
• AIが関係特有の役割を占めることの潜在的な利点とリスクを特定する。
• AIの行動を人間の関係的期待に整合させるための設計と規制上の含意を概説する。

提案手法

• 人間の関係規範（例：teacher–student、employer–employee）とAIシステムの能力と限界を比較する。
• AIの意識経験の欠如と疲労耐性の有無が、関係特有の機能を果たすうえでの影響を分析する。
• 人間とAIの相互作用における倫理・信頼・幸福感の配慮について論じる。
• AI設計と規制において、関係規範を慎重に形成・実装するためのアプローチを提案する。

実験結果

リサーチクエスチョン

• RQ1 人間とAIの相互作用に拡張すべき人間関係からの規範的基準は何か？
• RQ2 AIと人間の違いは、関係特有の役割を果たすAIの能力にどう影響するか？
• RQ3 AIが社会的役割を担うことの倫理、信頼、幸福感への影響は何か？
• RQ4 AIに適切な関係規範を実装するための設計および規制戦略は何か？

主な発見

• AIは、社会的・関係的役割における可用性の向上と一貫性といった利点を提供できる。
• 人間–AI相互作用において、AIが不健全な依存や非現実的な期待を生むリスクがある。
• 適切な人間–AI関係規範を理解し形成することは、倫理的で信頼できる相互作用にとって重要である。
• 関係規範は、アシスタント、チューター、ケア提供者などの役割におけるユーザーの行動やAIの認識に影響を及ぼす可能性がある。