[論文レビュー] Bias Amplification in Artificial Intelligence Systems

Kirsten Lloyd|arXiv (Cornell University)|Sep 20, 2018

Ethics and Social Impacts of AI参考文献 1被引用数 43

ひとこと要約

本論は、AIシステムが学習データに存在するバイアスを増幅する可能性を示唆し、このリスクを緩和するための政策志向のデータ標準と包摂的な実践の必要性を強調している。

ABSTRACT

As Artificial Intelligence (AI) technologies proliferate, concern has centered around the long-term dangers of job loss or threats of machines causing harm to humans. All of this concern, however, detracts from the more pertinent and already existing threats posed by AI today: its ability to amplify bias found in training datasets, and swiftly impact marginalized populations at scale. Government and public sector institutions have a responsibility to citizens to establish a dialogue with technology developers and release thoughtful policy around data standards to ensure diverse representation in datasets to prevent bias amplification and ensure that AI systems are built with inclusion in mind.

研究の動機と目的

• AIが学習データにおけるバイアスを増幅し、脆弱な人々に大規模な影響を及ぼすリスクを強調する。
• 技術者と連携して、政府および公的部門がバイアス増幅に対処することを提唱する。
• データセットの多様な表現を保証するためのデータ標準に関する慎重な政策開発を推奨する。
• バイアス増幅を防ぐための包摂性を重視したAI開発実践を促進する。

提案手法

• バイアス増幅の問題を基盤とした政策志向の分析。
• 政府機関と技術開発者との対話を促進するアドボカシー。
• データ標準と多様な表現を予防的措置として推奨する。

実験結果

リサーチクエスチョン

• RQ1 AIシステムは学習データセットに含まれる偏りをどのように増幅するのか？
• RQ2 バイアス増幅を防ぐのに効果的な政策手段とデータ標準は何か？
• RQ3 公的部門の関与はAIシステムへの包摂をどのように促進できるか？

主な発見

• AI技術は既存の偏りを増幅し、脆弱な集団に大規模な影響を及ぼす可能性がある。
• この問題に対して政府や公共機関が技術開発者と関与する責任がある。
• 学習データセットに多様な表現を確保するためのデータ標準に関する政策指針が必要である。
• 包摂性を重視した実践をAIシステム設計に組み込み、バイアス増幅を緩和すべきである。