[論文レビュー] The Call for Socially Aware Language Technologies

Diyi Yang, Dirk Hovy+2 more|arXiv (Cornell University)|May 3, 2024

Innovative Teaching and Learning MethodsPsychology被引用数 3

ひとこと要約

この論文は、バイアス、トキシシティ、公平性といった持続的な問題に対処するため、自然言語処理（NLP）に社会的要因、相互作用、影響を統合する社会的認識の統合を提唱する。言語モデルに社会的要因の理解を埋め込むことで、より包括的で信頼性が高く人間中心のAIシステムを実現するための基盤的転換を提唱する。感情知能、文化的文脈、倫理的設計を重視することで、包括的で信頼できる、人間中心のAIシステムの構築を目指す。

ABSTRACT

Language technologies have made enormous progress, especially with the introduction of large language models (LLMs). On traditional tasks such as machine translation and sentiment analysis, these models perform at near-human level. These advances can, however, exacerbate a variety of issues that models have traditionally struggled with, such as bias, evaluation, and risks. In this position paper, we argue that many of these issues share a common core: a lack of awareness of the factors, context, and implications of the social environment in which NLP operates, which we call social awareness. While NLP is getting better at solving the formal linguistic aspects, limited progress has been made in adding the social awareness required for language applications to work in all situations for all users. Integrating social awareness into NLP models will make applications more natural, helpful, and safe, and will open up new possibilities. Thus we argue that substantial challenges remain for NLP to develop social awareness and that we are just at the beginning of a new era for the field.

研究の動機と目的

• 形式的言語的タスクにおける高い性能にもかかわらず、NLPシステムが社会的文脈、文化的ニュアンス、倫理的含意を適切に処理する能力に大きな格差が生じていることを是正する。
• 現在のNLPモデルが社会的認識を欠いていることが、実世界の応用において偏見、危険性、排除的結果をもたらしていることを強調する。
• 社会的認識をコアな構成要素として統合するというNLP研究のパラダイム転換を提唱する。後から追加するのではなく、根本から統合することを重視する。
• 言語学、社会科学、AIの分野を横断する連携を促進し、多様な人間の経験と価値観を反映するモデルの構築を推進する。
• 悪用、過剰依存、プライバシーのリスクを防ぐための倫理的開発フレームワークの構築を呼びかける。

提案手法

• 社会的認識を、言語使用における社会的要因、社会的相互作用、社会的含意を包含するコアな能力として導入する。
• 社会的認識を、特に心の理論（Theory of Mind）を含む感情知能の延長として位置づけ、モデルが他者の感情や意図を理解できるようにする。
• 社会的認識を備えたNLPは、文化的規範、価値観、力関係、言語やコミュニティごとの文脈的変動を考慮しなければならない。
• 従来の正確性や文の自然さを超えて、公平性、信頼性、包摂性を含む評価指標とベンチマークの再定義を提唱する。
• 社会学、実用的言語学、ヒューマンコンピュータインタラクションの知見をNLPモデルの設計とトレーニングに統合するよう提言する。
• 時間的・文脈的変化に応じてシステムが常に関連性と倫理的妥当性を保つために、継続的な監視と適応的アップデートの必要性を強調する。

実験結果

リサーチクエスチョン

• RQ1 NLPモデルは、言語における社会的文脈、文化的差異、力関係をどのように認識し、適切に対応できるように設計できるか？
• RQ2 公平性、信頼性、包摂性を向上させるために、言語モデルに埋め込むべき社会的認識の主要な構成要素は何か？
• RQ3 社会的認識は、その複雑で多次元的な性質を考慮すると、NLPシステムにおいてどのように実装され、評価できるか？
• RQ4 NLPシステムがより社会的認識を持つようになると、どのような倫理的リスクが生じるのか。開発段階でそれらをどのように軽減できるか？
• RQ5 社会的認識を備えたNLPは、医療、教育、人間-ロボットインタラクションといったハイリスク分野をどのように変革できるか？

主な発見

• 現代NLPにおけるバイアス、トキシシティ、不平等といった多くの問題は、言語的・計算的欠陥のせいではなく、社会的認識の欠如に起因している。
• 現在の大規模言語モデルは、形式的NLPタスクでは人間とほぼ同等の性能を示すが、社会的文脈を考慮しないため、排除的または有害な出力を生じる。
• 社会的認識はNLPに限らず、視覚やロボット工学を含むAIの多様なモodalitiesにおいても、安全で効果的な人間-AIインタラクションを実現するために不可欠である。
• NLPに社会的認識を統合することで、信頼性、包摂性、アクセシビリティが向上し、とりわけ言語やコミュニティがマイノリティである場合に顕著に効果を発揮する。
• 社会的認識のための標準化された指標や評価フレームワークの不在が、進展を妨げる主要な障壁のままである。
• 操作的でないシステムの開発を避けるために、分野横断的連携と倫理的設計原則の両方が、社会的認識を備えたシステムを責任感を持って開発するために不可欠である。