[論文レビュー] Bias in Generative AI

Mi Zhou, Vibhanshu Abhishek+3 more|arXiv (Cornell University)|Mar 5, 2024

Computability, Logic, AI Algorithms被引用数 25

ひとこと要約

本論文は Midjourney、Stable Diffusion、DALLE 2 によって生成された画像を分析し、性別、人種、ニュアンスのある表情のバイアスを特定します。女性とアフリカ系アメリカ人に対する一貫した偏り、およびモデル間での表情の微妙な偏りを明らかにしています。

ABSTRACT

This study analyzed images generated by three popular generative artificial intelligence (AI) tools - Midjourney, Stable Diffusion, and DALLE 2 - representing various occupations to investigate potential bias in AI generators. Our analysis revealed two overarching areas of concern in these AI generators, including (1) systematic gender and racial biases, and (2) subtle biases in facial expressions and appearances. Firstly, we found that all three AI generators exhibited bias against women and African Americans. Moreover, we found that the evident gender and racial biases uncovered in our analysis were even more pronounced than the status quo when compared to labor force statistics or Google images, intensifying the harmful biases we are actively striving to rectify in our society. Secondly, our study uncovered more nuanced prejudices in the portrayal of emotions and appearances. For example, women were depicted as younger with more smiles and happiness, while men were depicted as older with more neutral expressions and anger, posing a risk that generative AI models may unintentionally depict women as more submissive and less competent than men. Such nuanced biases, by their less overt nature, might be more problematic as they can permeate perceptions unconsciously and may be more difficult to rectify. Although the extent of bias varied depending on the model, the direction of bias remained consistent in both commercial and open-source AI generators. As these tools become commonplace, our study highlights the urgency to identify and mitigate various biases in generative AI, reinforcing the commitment to ensuring that AI technologies benefit all of humanity for a more inclusive future.

研究の動機と目的

• 生成系AI画像合成におけるバイアスの研究を促進する。
• 人気のジェネレータ（Midjourney、Stable Diffusion、DALLE 2）が性別バイアスや人種バイアスを示すかを評価する。
• 職業ごとの表情や外見におけるニュアンスのあるバイアスを特定する。
• 雇用統計とGoogle画像検索結果と比較して、バイアスのパターンの深刻さを評価する。

提案手法

• 3つの人気AIジェネレータ（Midjourney、Stable Diffusion、DALLE 2）を用いて、職業別の生成画像セットを分析する。
• 出力結果における組織的な性別および人種バイアスを評価する。
• 表情や外見を精査し、年齢、笑顔、表情などの微妙なバイアスパターンを検出する。
• 観察されたバイアスを雇用統計およびGoogle画像結果と比較して、深刻さを文脈づける。
• 商用モデルとオープンソースモデルの間でバイアスの方向性を比較する。

実験結果

リサーチクエスチョン

• RQ1 主要な生成系AI画像ツールは女性に対する性別バイアスを示しますか？
• RQ2 これらのツールはアフリカ系アメリカ人に対する人種バイアスを示しますか？
• RQ3 性別間で年齢、笑顔、怒りなどの表情・外見にニュアンスのあるバイアスはありますか？
• RQ4 バイアスの方向性は異なるモデル（商用 vs オープンソース）で一貫していますか？

主な発見

• 3つのジェネレータすべてが女性およびアフリカ系アメリカ人に対する偏りを示します。
• 観察された性別および人種バイアスは、雇用統計やGoogle画像と比較して顕著です。
• 女性は若く、より多くの笑顔とともに描かれる。一方、男性は年上で、より中立的または怒りの表情で描かれる。
• バイアスの方向は商用とオープンソースモデルで一貫しているが、規模はモデルによって異なる。
• ニュアンスのあるバイアスは検出が難しい場合があるが、無意識的な知覚によってより影響力が大きい可能性がある。