[論文レビュー] Survey of Bias In Text-to-Image Generation: Definition, Evaluation, and Mitigation

Yixin Wan, Arjun Subramonian+7 more|arXiv (Cornell University)|Apr 1, 2024

Data Visualization and Analytics被引用数 4

ひとこと要約

本調査は、テキストから画像を生成する（T2I）モデルにおけるバイアスについて、初めて包括的な分析を提供する。性別表現、肌色、地理的・文化的バイアスの3つの次元において、定義、評価手法、緩和戦略を検討する。特に、地理的・文化的バイアスの未解明な部分、非連続的アイデンティティの表現不足、統一された評価フレームワークの欠如といった顕著なギャップが明らかになった。同時に、人間中心的で、適応的かつ継続的なバイアス緩和アプローチを提唱し、より公平なAIシステムの構築を目指す。

ABSTRACT

The recent advancement of large and powerful models with Text-to-Image (T2I) generation abilities -- such as OpenAI's DALLE-3 and Google's Gemini -- enables users to generate high-quality images from textual prompts. However, it has become increasingly evident that even simple prompts could cause T2I models to exhibit conspicuous social bias in generated images. Such bias might lead to both allocational and representational harms in society, further marginalizing minority groups. Noting this problem, a large body of recent works has been dedicated to investigating different dimensions of bias in T2I systems. However, an extensive review of these studies is lacking, hindering a systematic understanding of current progress and research gaps. We present the first extensive survey on bias in T2I generative models. In this survey, we review prior studies on dimensions of bias: Gender, Skintone, and Geo-Culture. Specifically, we discuss how these works define, evaluate, and mitigate different aspects of bias. We found that: (1) while gender and skintone biases are widely studied, geo-cultural bias remains under-explored; (2) most works on gender and skintone bias investigated occupational association, while other aspects are less frequently studied; (3) almost all gender bias works overlook non-binary identities in their studies; (4) evaluation datasets and metrics are scattered, with no unified framework for measuring biases; and (5) current mitigation methods fail to resolve biases comprehensively. Based on current limitations, we point out future research directions that contribute to human-centric definitions, evaluations, and mitigation of biases. We hope to highlight the importance of studying biases in T2I systems, as well as encourage future efforts to holistically understand and tackle biases, building fair and trustworthy T2I technologies for everyone.

研究の動機と目的

• テキストから画像を生成する（T2I）モデルにおけるバイアスについて、性別表現、肌色、地理的・文化的バイアスという3つの核心的次元を体系的にレビューし、既存の研究を統合的に分析すること。
• 先行研究がT2Iシステムにおけるバイアスをどのように定義・評価・緩和しているかを特定・分析し、一貫性の欠如やメソドロジカルな欠陥を浮き彫りにすること。
• 地理的・文化的バイアスの未対応、非連続的アイデンティティへの無関心、統一された評価フレームワークの不在といった、重要な研究ギャップを明らかにすること。
• 社会的価値観やコミュニティニーズの変化に応じて進化する人間中心的で、動的かつ継続的なバイアス緩和戦略を提唱し、今後の研究方向性を示すこと。
• 研究者や政策立案者に、倫理的で責任あるAI設計・導入を促すことで、より公平で信頼性の高いT2I技術の開発を支援すること。

提案手法

• 性別表現、肌色、地理的・文化的バイアスに焦点を当てた、T2Iモデルにおけるバイアスに関する36編の査読済み論文を対象とした体系的文献レビューを実施した。
• 3つのバイアス次元におけるバイアスの概念的捉え方、評価手法、緩和技術に基づいて、研究を分類・分析した。
• バイアスの定義を職業的関連性、力関係、ステレオタイプ的対象、画像品質といった特定の側面にマッピングし、テーマクラスタを同定した。
• 研究間で使用される評価指標およびデータセットの多様性と一貫性を評価し、断片化と標準化の欠如を特定した。
• 変化する社会的規範やコミュニティフィードバックに応じて進化する適応的かつ継続的緩和戦略を重視する、今後の研究のためのフレームワークを提案した。
• 性別、人種、文化的アイデンティティ分類における視覚的代理指標への依存に起因する倫理的リスクを強調し、監視や抑圧的応用への悪用を警告した。

実験結果

リサーチクエスチョン

• RQ1 既存の研究は、性別表現、肌色、地理的・文化的バイアスの各次元において、テキストから画像を生成するモデルにおけるバイアスをどのように定義しているか？
• RQ2 T2Iモデルにおけるバイアスを測定するために一般的に使用される評価指標とデータセットは何か？また、研究間でどれほど標準化されているか？
• RQ3 提案された緩和戦略は何か？また、それらは複数のバイアス次元を包括的に同時に解決するのにどの程度効果的か？
• RQ4 なぜ地理的・文化的バイアスは、性別や肌色バイアスと比較して、現在の研究において著しく未解明のままであるのか？
• RQ5 今後の研究は、変化する社会的価値観とコミュニティニーズに応じて進化する人間中心的で、適応的かつ継続的なバイアス緩和アプローチをどのように開発できるか？

主な発見

• 性別および肌色バイアスは広く研究されており、特に職業的関連性の文脈で注目されているが、地理的・文化的バイアスは文献において著しく未解明のままである。
• 大多数の性別バイアス研究は、非連続的性別のアイデンティティを十分に考慮しておらず、T2Iモデルの出力において排除的表現が生じている。
• T2Iモデルにおけるバイアスの統一された評価フレームワークは存在せず、指標やデータセットが研究間で大きくばらついており、結果の不一致および比較不可能性が生じている。
• 現在の緩和手法は、包括的にバイアスを解消するのにほとんど効果がなく、複数のバイアス次元を同時にまたは持続可能に扱うことができていない。
• バイアス測定自体に偏りのある分類手法（人間および自動）が使用されており、評価の実践がステレオタイプの拡散を助長している。
• 動的で適応的かつ継続的な緩和戦略の欠如により、社会的規範や文化的表現の変化に伴って進化する中で、T2Iシステムの長期的公平性が制限されている。