[論文レビュー] AI Suggestions Homogenize Writing Toward Western Styles and Diminish Cultural Nuances

D. P. Agarwal, Mor Naaman+1 more|arXiv (Cornell University)|Sep 17, 2024

Computational and Text Analysis Methods被引用数 11

ひとこと要約

この研究は、西洋中心のAIライティング提案がアメリカ人にとってインド人より生産性を高め、西洋スタイルへとインドの文章を均質化し、文化的ニュアンスを低減させる。

ABSTRACT

Large language models (LLMs) are being increasingly integrated into everyday products and services, such as coding tools and writing assistants. As these embedded AI applications are deployed globally, there is a growing concern that the AI models underlying these applications prioritize Western values. This paper investigates what happens when a Western-centric AI model provides writing suggestions to users from a different cultural background. We conducted a cross-cultural controlled experiment with 118 participants from India and the United States who completed culturally grounded writing tasks with and without AI suggestions. Our analysis reveals that AI provided greater efficiency gains for Americans compared to Indians. Moreover, AI suggestions led Indian participants to adopt Western writing styles, altering not just what is written but also how it is written. These findings show that Western-centric AI models homogenize writing toward Western norms, diminishing nuances that differentiate cultural expression.

研究の動機と目的

• 西洋中心のAIライティング提案が、異なる文化（インド対米国）のユーザーにどのような影響を与えるかを評価する。
• 文化間でAI提案に対する生産性の向上とエンゲージメントを測定する。
• AIライティング提案が非西洋の文章を西洋スタイルへ均質化するかを検討する。
• AIに西洋的規範を組み込むことの文化的な害悪を論じ、緩和策を提案する。

提案手法

• 118名の被験者を対象とした2x2の独立グ設計実験（インド60名、アメリカ58名）。
• 条件: GPT-4oによるAI提案 vs AIなし、参加者の文化（インド vs アメリカ）を交差。
• Hofstedeの文化オニオンに基づいて、顕在的・潜在的な文化的側面を引き出す4つのライティング課題。
• 入力停止後（100 ms）にGPT-4oのインラインオートコンプリート提案を表示; TABで受け入れ、ESCで拒否; 相互作用を記録。
• 指標にはAI依存、提案受容率、提案修正、執筆生産性を含む。NLP指標としてType-Token Ratioおよび埋め込みのコサイン類似度を使用。
• プロンプトとデータ収集はIRBの承認を受けた; 文化的差を確認するための人口統計調査（SSVS）を含む。

Figure 1. A representation of the potential cultural homogenization from Western-centric AI models

実験結果

リサーチクエスチョン

• RQ1 RQ1: 西洋中心のAIを使った執筆は、西洋文化のユーザーに対して非西洋文化のユーザーより大きな利益をもたらすか？
• RQ2 RQ2: 西洋中心のAIを使った執筆は、非西洋のユーザーの執筆スタイルを西洋スタイルへ均質化するか？

主な発見

• AIはインド人とアメリカ人の両方の生産性を向上させ、アメリカ人の向上が大きい。
• AIはインドの参加者がアメリカ人に近い書き方をするようになり、西洋スタイルの均質化を示唆する。
• インドの参加者はAI提案へのエンゲージメント（AI依存）が高く、提案の受け入れ比率もアメリカ人より大きかった。
• 合計12,015件のAI提案が表示され、1,476件が受理（12.3%）；拒否の0.6%はEscapeで明示的、残りの多くは作業のフロー中に拒否。
• 上位のオートコンプリート提案は西洋偏りを示し、特に食事・祭りの課題でそうである（表4）。
• シュワルツの価値観の10項目中8項目がインド人とアメリカ人で有意に異なり、文化的距離を裏付ける。