[論文レビュー] Generative Discrimination: What Happens When Generative AI Exhibits Bias, and What Can Be Done About It

Philipp Hacker|arXiv (Cornell University)|Jan 1, 2024

Impact of AI and Big Data on Business and Society被引用数 5

ひとこと要約

本論文は、生成系AIが差別を示すことがあり、出力を分類し、偏見を緩和するための規制の見直しと説明責任を提案する。

ABSTRACT

As generative Artificial Intelligence (genAI) technologies proliferate across sectors, they offer significant benefits but also risk exacerbating discrimination. This chapter explores how genAI intersects with non-discrimination laws, identifying shortcomings and suggesting improvements. It highlights two main types of discriminatory outputs: (i) demeaning and abusive content and (ii) subtler biases due to inadequate representation of protected groups, which may not be overtly discriminatory in individual cases but have cumulative discriminatory effects. For example, genAI systems may predominantly depict white men when asked for images of people in important jobs. This chapter examines these issues, categorizing problematic outputs into three legal categories: discriminatory content; harassment; and legally hard cases like unbalanced content, harmful stereotypes or misclassification. It argues for holding genAI providers and deployers liable for discriminatory outputs and highlights the inadequacy of traditional legal frameworks to address genAI-specific issues. The chapter suggests updating EU laws, including the AI Act, to mitigate biases in training and input data, mandating testing and auditing, and evolving legislation to enforce standards for bias mitigation and inclusivity as technology advances.

研究の動機と目的

• 生成系AIが非差別法とどう相互作用するかを検討し、ギャップを特定する。
• 二つの主要な差別的出力タイプを特定する：侮辱的コンテンツと表現のバイアス。
• 生成系AIの提供者と展開者の説明責任を提案し、法的枠組みの不備を論じる。

提案手法

• 問題のあるgenAI出力を差別的コンテンツ、嫌がらせ、そして不均衡なコンテンツや誤分類といった難解な法的ケースに分類する。
• genAI出力の提供者と展開者に対する責任の影響を論じる。
• データとモデル出力の偏りに対処するため、AI Actを含むEU法の見直しを検討・提案する。
• 偏見の緩和と包摂性のためのテスト、監査、基準の義務化を提唱する。

実験結果

リサーチクエスチョン

• RQ1 genAIはどのような差別的出力を生み出し得るか、法的にはどのように分類すべきか？
• RQ2 差別的出力について、genAI提供者と展開者の間で責任をどう分配すべきか？
• RQ3 genAI固有の偏見と包摂性に対処するために、どんな法的枠組みの変更が必要か？
• RQ4 訓練データや入力データの偏りを緩和するために、テストと監査をどのように義務化できるか？
• RQ5 EU規制（例：AI Act）が偏見緩和基準の施行に果たす役割は何か？

主な発見

• GenAI出力は差別的なコンテンツ、嫌がらせ、または不均衡なコンテンツや有害なステレオタイプといった難解な法的カテゴリに該当することがある。
• 現在の非差別法とgenAI固有の偏見との間に適切な整合性が不足している。
• 差別的出力について、提供者と展開者の双方に対する責任を及ぶべきである。
• EU法、AI Actを含む法は、訓練データと入力データの偏りを緩和し、テストと監査を義務化するための更新を必要とする。
• 技術の進展に合わせて、偏見の緩和と包摂性のための基準を施行する法制へと進化すべきである。