[논문 리뷰] Reactive Writers: How Co-Writing with AI Changes How We Engage with Ideas

Advait Bhat, Marianne Aubin Le Quéré외 2명|arXiv (Cornell University)|2026. 03. 11.

Artificial Intelligence in Healthcare and Education인용 수 0

한 줄 요약

본 연구는 인라인형의 의견을 제시하는 AI 작문 도우미가 작가의 아이디어 형성 과정과 결국 표현하는 아이디어를 어떻게 재구성하는지 조사하여 반응적 작문 모드를 드러내고 콘텐츠에 대한 AI 제안의 측정 가능한 영향을 밝힌다.

ABSTRACT

Emerging experimental evidence shows that writing with AI assistance can change both the views people express in writing and the opinions they hold afterwards. Yet, we lack substantive understanding of procedural and behavioral changes in co-writing with AI that underlie the observed opinion-shaping power of AI writing tools. We conducted a mixed-methods study, combining retrospective interviews with 19 participants about their AI co-writing experience with a quantitative analysis tracing engagement with ideas and opinions in 1{,}291 AI co-writing sessions. Our analysis shows that engaging with the AI's suggestions -- reading them and deciding whether to accept them -- becomes a central activity in the writing process, taking away from more traditional processes of ideation and language generation. As writers often do not complete their own ideation before engaging with suggestions, the suggested ideas and opinions seeded directions that writers then elaborated on. At the same time, writers did not notice the AI's influence and felt in full control of their writing, as they -- in principle -- could always edit the final text. We term this shift extit{Reactive Writing}: an evaluation-first, suggestion-led writing practice that departs substantially from conventional composing in the presence of AI assistance and is highly vulnerable to AI-induced biases and opinion shifts.

연구 동기 및 목표

• 인라인형 의견 제공 AI 작문 도우미가 아이디어 생성과 작문 과정을 어떻게 재구성하는지 이해한다.
• AI와의 공동 작성을 통해 작가가 최종 텍스트에서 표현하는 아이디어에 어떤 영향이 있는지 탐구한다.
• AI 보조 작문에 수반되는 과정 변화와 참여 패턴을 규명한다.

제안 방법

• 19명을 대상으로 한 회상 기반 단서 인터뷰와 1,291개 AI 공동 작문 세션의 정량적 분석을 결합한 혼합 방법 디자인.
• Reddit 유사 플랫폼 내에서 인라인형의 의견 제시 GPT-3 기반 작문 도우미를 사용하여 상호작용 로그와 주관적 보고를 수집한다.
• 인터뷰 기록에 주제 분석을 적용하고 주제 기반 파이프라인으로 AI 제안을 최종 텍스트에 맵핑한다.
• 로그를 분석하여 AI 제안과 최종 텍스트의 주제 빈도 간의 관계를 모델링한다.
• GPT-3.5-turbo를 통한 주제 발견과 군집화를 사용하고, 이후 작성 버스트에 대해 GPT-4o로 주제 할당을 수행한다.

Figure 1. Screenshot of the experimental writing platform showing AI suggestions.

실험 결과

연구 질문

• RQ1 RQ1: 인라인형의 의견 제시 AI 작문 도우미가 작가의 아이디어 형성 및 작문 과정에 어떤 재구성을 일으키는가?
• RQ2 RQ2: AI와의 공동 작성이 작가가 궁극적으로 표현하는 아이디어에 어떤 영향을 미치는가?

주요 결과

• 작가들은 기억 기반 아이데이션에서 AI가 제공한 콘텐츠의 평가로 전환하여 반응적 작문 과정을 만들어낸다.
• 특정 주제에 대한 AI 제안에 노출되는 것이 최종 에세이에 그 제안의 존재를 강하게 예측하며, 수용된 텍스트를 통제하더라도 마찬가지이다.
• 작가들은 통제감을 느끼고 최종 결과물을 편집할 수 있어 AI의 영향에도 불구하고 인지된 주체성을 시사한다.
• AI 도구는 어젠다 설정 영향으로 작용하여 작성된 콘텐츠의 주제와 프레이밍을 미묘하게 방향 지시한다.
• 정성적 서술은 반응적 작문의 세 가지 단계를 확인한다: 주의 집중, 동의 기반 포함, 사후 맞춤화.
• 연구는 대형 언어 모델이 글쓰기 내용과 이후의 견해 형성에 미치는 위험을 강조한다.

Figure 2. Simplified overview of the topic classification pipeline. Step 1 ( topic discovery ) shows how initial topics were identified from user-written and accepted text using gpt-3.5-turbo , with each topic receiving a description to enable clustering. Step 2 ( topic assignment ) shows how text w