[論文レビュー] The Impossibility of Fair LLMs

Jacy Reese Anthis, Kristian Lum+3 more|arXiv (Cornell University)|May 28, 2024

Copyright and Intellectual Property被引用数 7

ひとこと要約

本論文は、既存の公平性フレームワークは大規模言語モデルには一般化されず、普遍的な公平性の達成は実現困難であると主張している。文脈に基づくガイドラインと、LLMの公正性を実装するための反復的で参加型の設計を提案している。

ABSTRACT

The rise of general-purpose artificial intelligence (AI) systems, particularly large language models (LLMs), has raised pressing moral questions about how to reduce bias and ensure fairness at scale. Researchers have documented a sort of "bias" in the significant correlations between demographics (e.g., race, gender) in LLM prompts and responses, but it remains unclear how LLM fairness could be evaluated with more rigorous definitions, such as group fairness or fair representations. We analyze a variety of technical fairness frameworks and find inherent challenges in each that make the development of a fair LLM intractable. We show that each framework either does not logically extend to the general-purpose AI context or is infeasible in practice, primarily due to the large amounts of unstructured training data and the many potential combinations of human populations, use cases, and sensitive attributes. These inherent challenges would persist for general-purpose AI, including LLMs, even if empirical challenges, such as limited participatory input and limited measurement methods, were overcome. Nonetheless, fairness will remain an important type of model evaluation, and there are still promising research directions, particularly the development of standards for the responsibility of LLM developers, context-specific evaluations, and methods of iterative, participatory, and AI-assisted evaluation that could scale fairness across the diverse contexts of modern human-AI interaction.

研究の動機と目的

• 現在のML公正性フレームワークがLLMsに適用される方法を評価し、根本的な不適合を特定する。
• グループフェアネス、フェア表現、関連概念を広範で多模態の汎用モデルに適用することの限界を示す。
• 普遍的な保証ではなく、特定のユースケースと文脈に焦点を当てた現実的な公正性目標を提案する。
• LLM展開における被害を減らすために、開発者の責任と反復的で参加型の設計を提唱する。

提案手法

• LLMsの文脈におけるグループフェアネスやフェア表現など、既存の公正性フレームワークの批評的検討。
• 未構造データと蔓延する機微属性のため、LLMsにおいてFTUは実現不可能であるという論拠。
• 多くの公正性指標をLLMsに対して、タスクや母集団を横断して適用することの非適用性または不可能性を示す論理分析。
• 文脈、開発者の責任、利害関係者の参加を強調するガイドラインの策定。
• 訓練データのキュレーション、インストラクションチューニング、プロンプトエンジニアリング、パーソナライズ、解釈性ツールのインプリケーションについての議論。

実験結果

リサーチクエスチョン

• RQ1 現在の公正性フレームワークはLLMsに適用した際、どのような限界を示すか？
• RQ2 グループフェアネス、反事実的フェアネス、またはフェア表現を、広範で多模態のLLM文脈に対して論理的または実践的に拡張できるか？
• RQ3 LLMsにおける公正性と有害性低減を達成する現実的でユースケース固有のガイドラインは何か？
• RQ4 開発者やユーザーを含む利害関係者がLLMの公正性に対処する反復的な設計プロセスにどう参加すべきか？

主な発見

• テキストから機微属性を推定できる能力のため、LLMsにおける機微属性の把握を避けることは実現不可能である。
• 公正性の保証は、LLMsが遭遇する多様なデータ・タスク・母集団にまたがって普遍化されない。
• グループフェアネスと関連指標は、LLMsの基礎となる母集団を定義するのに苦労し、文脈横断の公正性を保証できない。
• 単一の概念をデバイズすることは、他の文脈固有の関係を歪めがちであり、普遍的なデバイアス除去アプローチは非現実的。
• 公正性はモデルパイプライン全体で合成されないため、文脈依存の公正性はモデル構成やガイダンスを通じて追求されるべきである。
• 3つのガイドラインが浮かび上がる。文脈を強調し、開発者の責任を割り当て、害を軽減するために反復的で参加型の設計を追求する。