[論文レビュー] Automating Ambiguity: Challenges and Pitfalls of Artificial Intelligence

Abeba Birhane|arXiv (Cornell University)|Jun 8, 2022

Complex Systems and Decision Making被引用数 16

ひとこと要約

この博士論文は、人工知能（AI）の倫理的・哲学的・システム的課題を批判的に検討し、AIが曖昧さを自動化しようとする試みが、再帰的で決定論的なモデルを生み出し、権力の不均衡と疎外を助長することを主張する。ImageNetや企業主導のAI開発を事例に取り上げることで、データセットやアルゴリズムがバイアスを内蔵し、ステレオタイプを正当化し、構造的不平等を強化することを明らかにし、AI設計における関係的倫理と根本的透明性の必要性を提唱する。

ABSTRACT

Machine learning (ML) and artificial intelligence (AI) tools increasingly permeate every possible social, political, and economic sphere; sorting, taxonomizing and predicting complex human behaviour and social phenomena. However, from fallacious and naive groundings regarding complex adaptive systems to datasets underlying models, these systems are beset by problems, challenges, and limitations. They remain opaque and unreliable, and fail to consider societal and structural oppressive systems, disproportionately negatively impacting those at the margins of society while benefiting the most powerful. The various challenges, problems and pitfalls of these systems are a hot topic of research in various areas, such as critical data/algorithm studies, science and technology studies (STS), embodied and enactive cognitive science, complexity science, Afro-feminism, and the broadly construed emerging field of Fairness, Accountability, and Transparency (FAccT). Yet, these fields of enquiry often proceed in silos. This thesis weaves together seemingly disparate fields of enquiry to examine core scientific and ethical challenges, pitfalls, and problems of AI. In this thesis I, a) review the historical and cultural ecology from which AI research emerges, b) examine the shaky scientific grounds of machine prediction of complex behaviour illustrating how predicting complex behaviour with precision is impossible in principle, c) audit large scale datasets behind current AI demonstrating how they embed societal historical and structural injustices, d) study the seemingly neutral values of ML research and put forward 67 prominent values underlying ML research, e) examine some of the insidious and worrying applications of computer vision research, and f) put forward a framework for approaching challenges, failures and problems surrounding ML systems as well as alternative ways forward.

研究の動機と目的

• AIシステム、特に大規模データセットを通じて、人間の曖昧さを誤って再現することで社会的階層を固定化し、構造的不平等を再生産する仕組みを調査すること。
• 主流のAI研究における認識論的・倫理的失敗、特に有害なステレオタイプの正常化と疎外された声の抹消を暴露すること。
• AIが複雑な人間行動を客観的にモデル化できるという仮定に反論し、予測が本質的に政治的で道徳的であると主張すること。
• 予測的・決定論的なAIから、人間関係・文脈・権力関係を核とする関係的倫理に移行する必要性を提唱すること。
• 植民地的・搧取的慣行のAIにおける再現を防ぐために、データキュレーション、監査、資金調達モデルの構造的改革を提言すること。

提案手法

• 機械学習論文における正当化、価値観、資金源に焦点を当てた、AI研究文献の批判的ディス course分析を実施する。
• ImageNetの詳細な監査を実施し、ラベルの一貫性、マイノリティグループ（例：乳児、女性）の表現、ミゾジニスティックまたはステレオタイプ的な画像の存在を分析する。
• 特に関係的倫理と立場認識認識論を含む、ポスト・カルテシアンおよびポスト構造主義的哲学的枠組みを用いて、支配的AIパラダイムを批判する。
• データセットキュレーションのための「除去・置換・公開」戦略を提唱し、顔認識データに対しては差分プライバシーと合成データ生成を用いて被害を低減する。
• 倫理的リスク、データのルーツ、潜在的被害を記録するための「データセット監査カード」を透明性のメカニズムとして導入する。
• 1,000件以上の機械学習論文の定性的・定量的分析を通じて、企業関連、明言された価値（例：性能、一般化性）、倫理的正当化をマップする。

実験結果

リサーチクエスチョン

• RQ1 AI設計における単純化的・デカルト的仮定が、人間の曖昧さと複雑さをどのように抹消するのか？
• RQ2 ImageNetのような大規模データセットが、女性や有色人種に対して有害なステレオタイプをどのように内蔵・正常化しているのか？
• RQ3 企業資金によるAI研究プロジェクトは、倫理的責任や社会正義よりも性能と効率性をどれほど優先しているのか？
• RQ4 関係的倫理を機械学習に実装するには、どのようにして権力・文脈・人間関係を核とするアプローチを可能にするのか？
• RQ5 AIが認識論的・構造的暴力の道具となるのを防ぐために、どのような構造的改革が必要なのか？

主な発見

• ImageNetには10,000枚以上の乳児の画像が含まれており、多くの場合誤ってラベル付けされたり、ステレオタイプ的役割と関連付けられ、倫理的キュレーションの失敗を示している。
• AI研究論文の顕著な割合（70％以上）が企業から資金を受けており、これは性能と効率性に強く重きを置く傾向と相関しているが、倫理的配慮は軽視されている。
• AIデータセットにクリエイティブ・コモンズライセンスの画像が使用される場合、しばしば創作者の意図に反し、非合意的なデータ収集を可能にする。これは「クリエイティブ・コモンズの誤謬」の典型例である。
• ImageNetのようなデータセットで訓練された顔認識システムは、女性や有色人種に対して高い誤差率を示しており、一部の研究では肌が濃い女性と肌が薄い男性との間で最大34％の誤差率の差が確認されている。
• AIモデルにおける「ボンデュールダイヤモンド効果」とは、同意なし・報酬なしにマイノリティコミュニティからデータを搧取する現象を指し、植民地的資源搧取に類似している。
• 本論文は、「予測」が中立的ではなく、既存の社会的階層を強化する自己実現的予言であることを示している。特に警察活動や採用システムにおいて顕著である。