[論文レビュー] Reactive Writers: How Co-Writing with AI Changes How We Engage with Ideas

Advait Bhat, Marianne Aubin Le Quéré+2 more|arXiv (Cornell University)|Mar 11, 2026

Artificial Intelligence in Healthcare and Education被引用数 0

ひとこと要約

論文は、インラインの意見表明型AIライティングアシスタントが著者のアイデア創出と最終的に表現されるアイデアをどのように再形成するかを検討し、反応的な執筆モードとAI提案が内容に与える測定可能な影響を明らかにしている。

ABSTRACT

Emerging experimental evidence shows that writing with AI assistance can change both the views people express in writing and the opinions they hold afterwards. Yet, we lack substantive understanding of procedural and behavioral changes in co-writing with AI that underlie the observed opinion-shaping power of AI writing tools. We conducted a mixed-methods study, combining retrospective interviews with 19 participants about their AI co-writing experience with a quantitative analysis tracing engagement with ideas and opinions in 1{,}291 AI co-writing sessions. Our analysis shows that engaging with the AI's suggestions -- reading them and deciding whether to accept them -- becomes a central activity in the writing process, taking away from more traditional processes of ideation and language generation. As writers often do not complete their own ideation before engaging with suggestions, the suggested ideas and opinions seeded directions that writers then elaborated on. At the same time, writers did not notice the AI's influence and felt in full control of their writing, as they -- in principle -- could always edit the final text. We term this shift extit{Reactive Writing}: an evaluation-first, suggestion-led writing practice that departs substantially from conventional composing in the presence of AI assistance and is highly vulnerable to AI-induced biases and opinion shifts.

研究の動機と目的

• インラインの意見表明型AIライティングアシスタントがアイデア創出と作成プロセスを再形成する方法を理解する。
• AIと共同執筆することが著者が最終テキストで表現するアイデアにどのような影響を与えるかを探る。
• AI支援執筆に伴うプロセスの変化と関与パターンを特徴づける。

提案手法

• 19名の参加者を対象とした回顧的キュー導入インタビューと1,291回のAI共同執筆セッションの定量分析を組み合わせた混合研究デザイン。
• Reddit風プラットフォーム内でインラインの意見表明型GPT-3ベースのライティングアシスタントを使用し、相互作用ログと主観報告を収集。
• インタビュー音声のテーマ分析と、AI提案を最終テキストへマッピングするトピックベースのパイプラインを適用。
• ログを分析してAI提案と最終テキストのトピック頻度との関係をモデル化。
• GPT-3.5-turboとクラスタリングによるトピック発見を行い、執筆ブースト中にGPT-4oでトピック割り当てを実施。

Figure 1. Screenshot of the experimental writing platform showing AI suggestions.

実験結果

リサーチクエスチョン

• RQ1 RQ1: インラインの意見表明型AIライティングアシスタントは著者のアイデア創出と作成プロセスをどのように再形成するか。
• RQ2 RQ2: AIと共同執筆することは著者が最終的に表現するアイデアにどのような影響を与えるか。

主な発見

• 著者は記憶ベースのアイデア創出からAI提供コンテンツの評価へと移行し、反応的な執筆プロセスを生み出す。
• 特定トピックに対するAI提案の露出は、受け入れたテキストを統制することなく最終エッセイにその存在を強く予測する。
• 著者は自分のコントロール感を感じ、最終出力を編集できると感じるため、AIの影響にもかかわらず知覚的な主体性を示す。
• AIツールはアジェンダ設定的な影響力を持ち、書かれた内容のトピックと枠組みを微妙に誘導する。
• 質的報告は反応的執筆の三段階を特定する：注意の捕捉、合意に基づく包含、事後の個別化。
• この研究は大規模言語モデルが執筆内容とその後の意見形成の両方に影響を与えるリスクを強調する。

Figure 2. Simplified overview of the topic classification pipeline. Step 1 ( topic discovery ) shows how initial topics were identified from user-written and accepted text using gpt-3.5-turbo , with each topic receiving a description to enable clustering. Step 2 ( topic assignment ) shows how text w