[論文レビュー] Generative Ghosts: Anticipating Benefits and Risks of AI Afterlives

Meredith Ringel Morris, Jed R. Brubaker|arXiv (Cornell University)|Jan 14, 2024

Law, AI, and Intellectual Property被引用数 12

ひとこと要約

本論文は generative ghosts を定義し、それらの設計空間を整理し、潜在的な利益とリスクを論じ、安全で有益な AI アフターライフのための積極的な AI/HCI 研究アジェンダを提案する。

ABSTRACT

As AI systems quickly improve in both breadth and depth of performance, they lend themselves to creating increasingly powerful and realistic agents, including the possibility of agents modeled on specific people. We anticipate that within our lifetimes it may become common practice for people to create custom AI agents to interact with loved ones and/or the broader world after death; indeed, the past year has seen a boom in startups purporting to offer such services. We call these generative ghosts, since such agents will be capable of generating novel content rather than merely parroting content produced by their creator while living. In this paper, we reflect on the history of technologies for AI afterlives, including current early attempts by individual enthusiasts and startup companies to create generative ghosts. We then introduce a novel design space detailing potential implementations of generative ghosts, and use this analytic framework to ground discussion of the practical and ethical implications of various approaches to designing generative ghosts, including potential positive and negative impacts on individuals and society. Based on these considerations, we lay out a research agenda for the AI and HCI research communities to better understand the risk/benefit landscape of this novel technology so as to ultimately empower people who wish to create and interact with AI afterlives to do so in a beneficial manner.

研究の動機と目的

• generative ghosts の概念を定義し、それらを griefbots およびその他の死後テクノロジーと区別する。
• generative ghosts を形成し、その社会的影響を左右する主要な設計次元を特定する。
• representee、遺族、社会にとっての潜在的な利益を評価する。
• 倫理的、法的、そして安全性のリスクを列挙し、それらへの緩和策を概説する。
• 安全で有益な AI アフターライフを実現するための学際的な研究アジェンダを提案する。

提案手法

• provenance、deployment timeline、anthropomorphism paradigm、multiplicity、cutoff date、embodiment、representee type を次元とする設計空間フレームワークを開発する。
• first-party と third-party の ghost、および pre-mortem と post-mortem のデプロイを区別する。
• generative ghosts を generative clones の特化形として明確にする。
• 再生と表象の比喩を対比させて、ユーザーの認識を分析する。
• このフレームワークを位置づけるため、死後テクノロジーおよび AI アフターライフに関する関連研究をレビューする。
• AI 安全性、HCI、終末期ケア計画、法、宗教を統合する研究アジェンダを提案する。

実験結果

リサーチクエスチョン

• RQ1 generative ghosts とは何か、それは griefbots やデジタル遺産とどう異なるのか。
• RQ2 generative ghosts の能力、認識、社会的影響を決定する設計次元は何か。
• RQ3 個人、遺族、社会にとっての潜在的な利益とリスクは何か。
• RQ4 AI アフターライフの開発とデプロイを導く研究方向性と安全対策は何か。

主な発見

• Generative ghosts は静的な追悼だけでなく、能力あるコンテンツ生成および潜在的なエージェント的相互作用を伴う。
• 設計空間は七つの次元（provenance、deployment timeline、anthropomorphism、multiplicity、cutoff date、embodiment、representee type）からなり、結果を形成する。
• Ghosts は第一者（representee によって計画されたもの）または第三者（他者によって作成されたもの）、同意の有無にかかわらず存在する可能性がある。
• 潜在的な利益には、遺族の安堵、個人および文化的遺産の継続、教育的または文化的な新規応用が含まれる。
• リスクは、 attachment、適応、二次喪失などの精神衛生、評判・プライバシー上の懸念、およびより広い社会文化的影響に及ぶ。
• 本論文は、利益を最大化しつつリスクを緩和するための多分野にわたる研究アジェンダを提案している。