[논문 리뷰] Generative Ghosts: Anticipating Benefits and Risks of AI Afterlives

Meredith Ringel Morris, Jed R. Brubaker|arXiv (Cornell University)|2024. 01. 14.

Law, AI, and Intellectual Property인용 수 12

한 줄 요약

논문은 생성적 유령을 정의하고, 설계 공간을 매핑하며, 잠재적 이점과 위험을 논의하고, 안전하고 유익한 AI 이후 삶을 위한 선제적 AI/HCI 연구 의제를 제안한다.

ABSTRACT

As AI systems quickly improve in both breadth and depth of performance, they lend themselves to creating increasingly powerful and realistic agents, including the possibility of agents modeled on specific people. We anticipate that within our lifetimes it may become common practice for people to create custom AI agents to interact with loved ones and/or the broader world after death; indeed, the past year has seen a boom in startups purporting to offer such services. We call these generative ghosts, since such agents will be capable of generating novel content rather than merely parroting content produced by their creator while living. In this paper, we reflect on the history of technologies for AI afterlives, including current early attempts by individual enthusiasts and startup companies to create generative ghosts. We then introduce a novel design space detailing potential implementations of generative ghosts, and use this analytic framework to ground discussion of the practical and ethical implications of various approaches to designing generative ghosts, including potential positive and negative impacts on individuals and society. Based on these considerations, we lay out a research agenda for the AI and HCI research communities to better understand the risk/benefit landscape of this novel technology so as to ultimately empower people who wish to create and interact with AI afterlives to do so in a beneficial manner.

연구 동기 및 목표

• 생성적 유령의 개념을 정의하고 이를 griefbots 및 다른 사후 기술과 구별한다.
• 생성적 유령을 형성하는 주요 설계 차원을 식별하고 사회적 영향을 파악한다.
• 대표 대상자, 애도자, 사회에 대한 잠재적 이점을 평가한다.
• 윤리적, 법적, 안전 위험을 열거하고 완화를 개요한다.
• 안전하고 유익한 AI 이후 삶을 가능하게 하는 학제간 연구 의제를 제안한다.

제안 방법

• 원천성(provenance), 배치 타임라인(deployment timeline), 인간화 패러다임(anthropomorphism paradigm), 다중성(multiplicity), 컷오프 날짜(cutoff date), 구현(embodiment), 그리고 representee 유형(representee type)을 차원으로 하는 디자인-공간 프레임워크를 개발한다.
• 일차 당사자(first-party) 대 삼차 당사자(third-party) 유령과 pre-mortem vs post-mortem 배치를 구별한다.
• 생성적 유령의 개념을 생성적 클론의 특수한 형태로 명확히 한다.
• 환생(reincarnation) 대 표상(representation) 은유를 대조하여 사용자 인식을 분석한다.
• 사후 기술과 AI 이후 삶에 걸친 관련 연구를 검토하여 프레임워크를 뒷받침한다.
• AI 안전성, HCI, end-of-life planning, 법률, 종교를 통합하는 연구 의제를 제안한다.

실험 결과

연구 질문

• RQ1 생성적 유령이 무엇이며 이것이 기존의 griefbots 및 디지털 유산과 어떻게 다른가?
• RQ2 생성적 유령의 능력, 인식 및 사회적 영향에 결정하는 설계 차원은 무엇인가?
• RQ3 개인, 애도자, 사회를 위한 잠재적 이점과 위험은 무엇인가?
• RQ4 AI 이후 삶의 개발과 배치를 안내할 연구 방향과 안전장치는 무엇이어야 하는가?

주요 결과

• 생성적 유령은 정적 기념물 이상의 콘텐츠 생성을 가능하게 하고 잠재적 주체적 상호작용까지 확장한다.
• 일곱 차원의 설계 공간(provenance, deployment timeline, anthropomorphism, multiplicity, cutoff date, embodiment, representee type)이 결과를 형성한다.
• 유령은 대표 대상자에 의해 계획된 일차 당사자(first-party) 또는 타인이 만든 삼차 당사자(third-party)일 수 있으며 동의 여부에 따라 다르다.
• 가능한 이점에는 애도자의 위로, 개인 및 문화 유산의 연속성, 새로운 교육 또는 문화적 응용이 포함된다.
• 위험은 정신 건강(애착, 수용, 두 번째 상실), 평판/개인정보 우려, 더 넓은 사회문화적 영향에 걸친다.
• 본 논문은 이익 극대화와 위험 완화를 위한 다학제 연구 의제를 제시한다.