[論文レビュー] Standard Language Ideology in AI-Generated Language

Genevieve Smith, Eve Fleisig+3 more|arXiv (Cornell University)|Jun 13, 2024

Natural Language Processing Techniques被引用数 9

ひとこと要約

この論文は、AI生成言語が標準言語イデオロギー、特に標準アメリカ英語を強化する方法を分析し、マイノリティ言語コミュニティへの含意を持つ未解決の課題の分類法を提供する。

ABSTRACT

Standard language ideology is reflected and reinforced in language generated by large language models (LLMs). We present a faceted taxonomy of open problems that illustrate how standard language ideology manifests in AI-generated language, alongside implications for minoritized language communities and society more broadly. We introduce the concept of standard AI-generated language ideology, a process through which LLMs position "standard" languages--particularly Standard American English (SAE)--as the linguistic default, reinforcing the perception that SAE is the most "appropriate" language. We then discuss ongoing tensions around what constitutes desirable system behavior, as well as advantages and drawbacks of generative AI tools attempting, or refusing, to imitate different English language varieties. Rather than prescribing narrow technical fixes, we offer three recommendations for researchers, practitioners, and funders that focus on shifting structural conditions and supporting more emancipatory outcomes for diverse language communities.

研究の動機と目的

• 標準言語イデオロギーを定義し、それがAI生成言語においてどのように現れるか。
• 大規模言語モデルが言語変種の階層的見方をどのように強化するかを説明する。
• マイノリティ言語コミュニティに関する未解決問題と社会的被害の分類体系を提示する。
• 望ましいモデル挙動と潜在的な解放的デジタル未来の間の緊張を論じる。

提案手法

• 標準言語イデオロギーとAI生成言語に関する文献をレビューする。
• 学習データとモデルのデモグラフィックがSAEデフォルト出力にどのように寄与するかを分析する。
• 英語のさまざまな変種間での性能差とバイアスの差を示す研究を統合する。
• マイノリティ言語コミュニティに関する害と倫理的配慮の分類を提案する。
• AI開発における設計プロセスと参加型アプローチの示唆を論じる。

実験結果

リサーチクエスチョン

• RQ1 AI生成言語のどのメカニズムが標準アメリカ英語をデフォルトの変種として強化するのか？
• RQ2 AI言語ツールと相互作用する際、マイノリティの英語変種の話者にどのような害が生じるのか？
• RQ3 多言語文脈で望ましいまたは解放的なモデル挙動をどのように定義すべきか？
• RQ4 標準言語イデオロギーを緩和し包摂的なAIの未来を促進する開発実践にはどんなものがあるか？

主な発見

• AI生成言語は標準的な変種、特にSAEをデフォルトにする傾向がある。
• 出力は標準的な変種と比較してマイノリティ変種の品質が低いことや解釈ミスを示す。
• マイノリティ変種の生成は、AI出力における固定観念、流用、あるいは操作につながる可能性がある。
• 非標準変種が抑制される場合、マイノリティ言語の消失の可能性がある。
• 参加型でコミュニティ中心のモデル設計アプローチは、解放的なデジタル未来を促進する可能性がある。