[論文レビュー] "Fairness in AI and Its Long-Term Implications on Society"

Ondrej Bohdal, Timothy M. Hospedales+2 more|arXiv (Cornell University)|Apr 16, 2023

Ethics and Social Impacts of AI被引用数 3

ひとこと要約

この論文は、データと意思決定のサイクルを通じて、時間の経過とともに社会的不平等を強化する自己強化的フィードバックループを形成する偏ったAIシステムの仕組みを調査する。長期的リスクを軽減するため、反復的バイアス拡大の科学、合成公平データセット、適応型政策枠組みの構築を提言する。

ABSTRACT

Successful deployment of artificial intelligence (AI) in various settings has led to numerous positive outcomes for individuals and society. However, AI systems have also been shown to harm parts of the population due to biased predictions. AI fairness focuses on mitigating such biases to ensure AI decision making is not discriminatory towards certain groups. We take a closer look at AI fairness and analyze how lack of AI fairness can lead to deepening of biases over time and act as a social stressor. More specifically, we discuss how biased models can lead to more negative real-world outcomes for certain groups, which may then become more prevalent by deploying new AI models trained on increasingly biased data, resulting in a feedback loop. If the issues persist, they could be reinforced by interactions with other risks and have severe implications on society in the form of social unrest. We examine current strategies for improving AI fairness, assess their limitations in terms of real-world deployment, and explore potential paths forward to ensure we reap AI's benefits without causing society's collapse.

研究の動機と目的

• 偏ったAIモデルがフィードバックループを通じて時間の経過とともに社会的不平等をどのように継続的・拡大的に生み出すかを分析すること。
• 不平等なAIの長期的社会的影響、特に制度的マイノリティ化と潜在的な社会的不安定を含めた影響を検討すること。
• 現行の公平性緩和戦略の有効性を評価し、実際の展開におけるその限界を同定すること。
• 合成データセットや適応型政策枠組みを含む、実行可能で大規模な干渉策を提言し、蓄積的バイアス拡大を防ぐこと。

提案手法

• エージェントベースモデリングを用いて、AI意思決定とデータ収集の間の長期的フィードバックを模擬することで、反復的バイアス拡大の科学を構築すること。
• 公平なAIモデルの事前学習を目的とした、偏りのないことを設計した大規模で基盤的な合成データセットの作成を提言すること。
• 政府主導、機関支援の取り組みを通じて、公共利益を目的とした合成データセットの資金提供と設計を推進することを提唱すること。
• アルゴリズムの透明性、人間の監視（人間が意思決定に参加する仕組み）、展開済みAIシステムの継続的監視を義務付ける政策ガイドラインを導入すること。
• 採用、融資、刑事司法など、高リスク分野における実世界の事例を用いて、バイアス拡大の様子を提示すること。
• AIセーフティ、リスク分析、社会科学の知見を統合し、公平性をシステム的かつ長期的な社会的リスクとして位置づけること。

実験結果

リサーチクエスチョン

• RQ1 高リスク分野における偏ったAI意思決定は、どのようにして徐々に偏ったデータを生み出し、時間の経過とともに不平等を拡大するフィードバックループを形成するか？
• RQ2 AIバイアスが是正されない場合、長期的にどのような社会的影響が生じるか、特に制度的マイノリティ化と社会的不安定の観点から。
• RQ3 なぜ現在の公平性緩和技術は、実際の展開において十分にスケーラブルではないのか？
• RQ4 大規模に公平なAIモデルを事前学習するため、合成データセットはどのように設計・展開できるか？
• RQ5 継続的監視と適応的ガバナンスを確保するため、どのような政策的・制度的メカニズムが必要か？

主な発見

• 偏ったAIモデルは展開段階で既存の社会的バイアスを拡大し、学習データに比べてより差別的な結果を生み出すことがある。
• 偏った意思決定が偏ったデータを生成し、そのデータがさらに偏った未来のモデルを訓練するというフィードバックループが発生し、制度的不平等が悪化する。
• 現在の公平性対策は、高コスト、スケーラビリティの欠如、展開後のバイアス検出の遅延のため、しばしば不十分である。
• 合成データセットは、公平なモデルの事前学習に有望なが、まだ十分に開発されていない分野であり、大規模な制度的投資と多分野連携を要する。
• 透明性、人間の監視、継続的監視を義務付ける政策枠組みは、展開後のバイアスを検出し是正するために不可欠である。
• 包括的かつ大規模な干渉がなければ、AIの公平性向上は、抗議活動や制度の崩壊といった長期的かつ社会的ストレス要因を防げない。