[論文レビュー] AI Personalization Paradox: Personalized AI Increases Superficial Engagement in Reading while Undermines Autonomy and Ownership in Writing

Peinuan Qin, Chi-Lan Yang+4 more|arXiv (Cornell University)|Jan 25, 2026

Writing and Handwriting Education被引用数 0

ひとこと要約

研究は、読み取りベースのパーソナライズが表層的な読書エンゲージメント（高ハイライト）を増加させる一方で、AI支援執筆におけるAIへの依存により作家の自律性と所有感を低下させることを示している。

ABSTRACT

AI-assisted writing raises concerns about autonomy and ownership when benefiting writers. Personalization has been proposed as an effective solution while also risking writers' reliance on AI and behavior shifting. For better personalization design, existing studies rely on interaction and information solely within the writing phase; however, few studies have examined how reading behaviors can inform personalized writing. This study investigates the effects of integrating reading highlights for personalization on AI-assisted writing. A between-subjects study with 46 participants revealed that the personalization condition encouraged participants to produce more highlights. However, highlighting unexpectedly shifted from a sense-making strategy to an instrumental act of "feeding the AI," leading to significant reliance on AI and declines in writers' sense of autonomy, ownership, and self-credit. These findings indicate personalization risks in AI-assisted writing, emphasize the importance of personalization strategies, and provide design implications.

研究の動機と目的

• 読み取りハイライトをパーソナライズ入力としてAI支援執筆に組み込むことがどのような影響を与えるかを調査する。
• パーソナライズがAIへの入力としての法的に「機能的」な活用へ読み取り戦略をシフトさせるかを検討する。
• AI支援執筆における作家の自律感・所有感・自己評価の影響を評価する。

提案手法

• 46名の参加者を対象とした_between-subjects_ 実験を実施。
• 読み取りハイライトとAI支援執筆を結びつけることでパーソナライズを操作。
• ハイライトの生成、意味づけ対機械的 feeding の区別、及び自律性・所有感・自己評価の結果を測定。
• AIへの依存とエンゲージメント・認知戦略の転換を分析。

実験結果

リサーチクエスチョン

• RQ1 読み取りハイライトを通じたパーソナライズはAI支援執筆におけるハイライト行動を増加させるか。
• RQ2 このパーソナライズはハイライトを意味づけからAIへの機械的 feeding へシフトさせるか。
• RQ3 パーソナライズがAI支援執筆における作家の自律感・所有感・自己評価に与える影響は何か。

主な発見

• パーソナライズ条件は参加者により多くのハイライトを生産させた。
• ハイライトは意味づけからAIへ feeding という機械的な行為へと移行する傾向を示した。
• パーソナライズはAIへの依存を高め、作家の自律感・所有感の低下を招いた。
• パーソナライズされたAI支援執筆では作家の自己評価が低下した。