[論文レビュー] A Taxonomy of the Biases of the Images created by Generative Artificial Intelligence

Adriana Fernández de Caleya Vázquez, Eduardo C. Garrido‐Merchán|arXiv (Cornell University)|May 2, 2024

Impact of AI and Big Data on Business and Society被引用数 7

ひとこと要約

この論文は、AI生成画像におけるバイアスの分類法を提案し、それらの社会的影響を分析し、緩和戦略と規制上の考慮事項を論じる。

ABSTRACT

Generative artificial intelligence models show an amazing performance creating unique content automatically just by being given a prompt by the user, which is revolutionizing several fields such as marketing and design. Not only are there models whose generated output belongs to the text format but we also find models that are able to automatically generate high quality genuine images and videos given a prompt. Although the performance in image creation seems impressive, it is necessary to slowly assess the content that these models are generating, as the users are uploading massively this material on the internet. Critically, it is important to remark that generative AI are statistical models whose parameter values are estimated given algorithms that maximize the likelihood of the parameters given an image dataset. Consequently, if the image dataset is biased towards certain values for vulnerable variables such as gender or skin color, we might find that the generated content of these models can be harmful for certain groups of people. By generating this content and being uploaded into the internet by users, these biases are perpetuating harmful stereotypes for vulnerable groups, polarizing social vision about, for example, what beauty or disability is and means. In this work, we analyze in detail how the generated content by these models can be strongly biased with respect to a plethora of variables, which we organize into a new image generative AI taxonomy. We also discuss the social, political and economical implications of these biases and possible ways to mitigate them.

研究の動機と目的

• AIモデルによって生成された画像に存在するバイアスを識別し、分類する。
• トレーニングデータ、モデル、およびユーザーの解釈がバイアスに寄与する仕組みを説明する。
• 画像生成におけるこれらのバイアスが社会的・政治的・経済的に与える影響を論じる。
• 緩和戦略を提案し、政策と将来の研究のギャップを特定する。

提案手法

• 文化的・社会経済的・生物学的・人口統計的次元にまたがる画像生成バイアスの体系的分類を構築する。
• バイアスがトレーニングデータ、モデルパラメータ、および出力解釈に起因することを説明する。
• 確率的フレーミング p(Y|X,θ) を用いたバイアス発生の技術的直感を説明し、緩和策としての正則化/データ増強を検討する。
• 関連研究と規制上の考慮事項をレビューし、倫理と政策議論の中で分類法を位置づける。
• 画像生成におけるバイアスを低減するための開発者向け実践チェックリストを提供する。

実験結果

リサーチクエスチョン

• RQ1 AI生成画像に現れるカテゴリーと具体的なバイアスは何ですか？
• RQ2 データセット、モデルアーキテクチャ、プロンプトはこれらのバイアスにどう寄与しますか？
• RQ3 偏ったAI生成画像がもたらす社会的・経済的・政治的影響は何であり、どのように緩和できますか？
• RQ4 開発者と政策立案者が画像生成のバイアスを低減・規制するために実際に取るべき具体的手順は何ですか？

主な発見

• 包括的な分類法は、AI生成画像における文化的・社会経済的・生物学的・人口統計的バイアスを特定します。
• バイアスはトレーニングデータ分布、モデル最適化、およびプロンプト解釈に起因し、ステレオタイプを助長する可能性があります。
• 緩和策にはデータ増強、トレーニング時の正則化、バイアスを意識した評価テストバッテリーが含まれます。
• 透明性・説明責任・緩和策の有効性に対処するためには、倫理・政策・規制に関するより広い議論が不可欠です。
• 本研究は、性別と人種を超えたより広いバイアスの画像生成に対する緩和を強調します。