[논문 리뷰] The AI Ghostwriter Effect: When Users Do Not Perceive Ownership of AI-Generated Text But Self-Declare as Authors

Fiona Draxler, Anna Werner외 5명|arXiv (Cornell University)|2023. 03. 06.

Artificial Intelligence in Healthcare and Education참고 문헌 107인용 수 4

한 줄 요약

이 논문은 인간-AI 공동 작성 텍스트 생성에서의 저자성 인식을 조사하며, 'AI 가면 작가 효과'(AI Ghostwriter Effect)를 규명한다. 사용자들은 AI가 생성한 텍스트의 저자로 자가 정체화하지 않지만, 개인화된 경우조차도 종종 AI를 공식적으로 기재하지 않는다. 이 효과는 개인화 품질과 무관하게 지속되며, 개방형 응답을 통해 저자성을 선언할 경우 더욱 두드러지며, AI 보조 글쓰기에서 소유권 인식과 공적 기재 간의 심각한 괴리를 드러낸다.

ABSTRACT

Human-AI interaction in text production increases complexity in authorship. In two empirical studies (n1 = 30 & n2 = 96), we investigate authorship and ownership in human-AI collaboration for personalized language generation. We show an AI Ghostwriter Effect: Users do not consider themselves the owners and authors of AI-generated text but refrain from publicly declaring AI authorship. Personalization of AI-generated texts did not impact the AI Ghostwriter Effect, and higher levels of participants' influence on texts increased their sense of ownership. Participants were more likely to attribute ownership to supposedly human ghostwriters than AI ghostwriters, resulting in a higher ownership-authorship discrepancy for human ghostwriters. Rationalizations for authorship in AI ghostwriters and human ghostwriters were similar. We discuss how our findings relate to psychological ownership and human-AI interaction to lay the foundations for adapting authorship frameworks and user interfaces in AI in text-generation tasks.

연구 동기 및 목표

• 대규모 언어 모델을 사용하여 개인화된 텍스트를 공동 생성할 때 사용자들이 소유권과 저자성을 어떻게 인식하는지 조사하기 위해.
• AI 생성 콘텐츠의 개인화가 사용자의 소유권 인식과 선언된 저자성에 영향을 미치는지 검토하기 위해.
• 인간 가면 작가와의 협업과 비교하여 AI와 협업할 때의 저자성 선언 행동을 비교하기 위해.
• 소유권 인식과 공적 저자성 기재 간 격차를 유도하는 심리적 요인과 상호작용 설계 요소를 탐색하기 위해.
• AI 보조 텍스트 생성을 위한 사용자 중심의 저자성 프레임워크와 인터페이스 설계 개발에 정보를 제공하기 위해.

제안 방법

• 개인화된 포스트카드를 생성하는 데 참여한 참가자들(n1 = 30, n2 = 96)을 대상으로 두 개의 실증 연구를 수행하였다.
• 영향을 미칠 수 있는 상호작용 방식(예: 프롬프트 기반 생성, 편집)을 다양화하여 그가 소유권 인식과 저자성 선언에 미치는 영향을 평가하였다.
• 연구 1에서는 위약 개인화를 사용하여 실제 모델 파생 조정과는 별개로 인식된 개인화 효과를 분리하였다.
• 연구 2에서는 더 큰 표본을 사용하여 유사한 결과를 재현하고, 비교를 위해 인간 가면 작가 조건을 도입하였다.
• 구조화된 설문조사와 자유형 저자 선언 필드를 통해 데이터를 수집하였으며, 연구 2는 사전 등록하였다(https://aspredicted.org/RKV_ZXX).
• AI 및 인간 가면 작가 조건 간의 저자성 선언에 대한 정당화를 분석하여 사고 패턴을 비교하였다.

(a) Writing

실험 결과

연구 질문

• RQ1 AI 생성 텍스트의 개인화가 사용자의 소유권 인식과 선언된 저자성에 어떤 영향을 미치는가?
• RQ2 상호작용 방식(예: 프롬프트 입력, 편집)이 사용자의 소유권 인식과 저자성 기재에 어떤 영향을 미치는가?
• RQ3 AI 가면 작가 상황과 인간 가면 작가 상황을 비교할 때 저자성 선언과 소유권 인식은 어떻게 다를까?
• RQ4 사용자들이 AI나 인간 가면 작가를 사용할 때 저자성 선언을 하거나 하지 않을 때 제시하는 정당화는 무엇인가?
• RQ5 텍스트에 대한 인식된 통제력이 인간-AI 협업에서 소유권-저자성 격차에 어느 정도 영향을 미치는가?

주요 결과

• AI 가면 작가 효과는 강력하다: 참가자들은 개인화된 이후에도 AI가 생성한 텍스트의 저자로 자신을 인식하지 않았다.
• 연구 1에서 참가자의 20%만 자유형 응답 필드에서 AI를 저자로 명시적으로 기재하여, AI 참여에도 불구하고 공적 기재 수준이 낮음을 보여주었다.
• 연구 2에서 참가자의 70%는 사전 정의된 메뉴를 제공받았을 경우 AI를 저자로 기재하였으며, 이는 인터페이스 설계가 저자성 공개에 상당한 영향을 미친다는 것을 시사한다.
• 참가자들은 텍스트에 더 큰 영향력을 행사할수록 더 높은 소유권 인식을 보였으며, 이는 통제력이 소유권 인식을 강화함을 의미한다.
• 사용자들은 인간 가면 작가보다 AI 가면 작가를 더 적게 저자로 기재하는 경향이 있었으며, 이는 AI 보조 글쓰기에서 소유권-저자성 격차가 더 크다는 것을 시사한다.
• AI 및 인간 가면 작가 조건 간의 저자성 정당화 방식은 유사했으며, 이는 협업자 신분과 관계없이 유사한 심리적 정당화가 존재함을 의미한다.

(b) Editing