[論文レビュー] Reconfiguring Diversity and Inclusion for AI Ethics

Nicole Chi, Emma Lurie+1 more|arXiv (Cornell University)|May 6, 2021

Ethics and Social Impacts of AI参考文献 46被引用数 5

ひとこと要約

本論文は、Google、Microsoft、Salesforceが、人材多様性と包摂を企業のAI倫理文書に統合することで、それらをエンジニアリングプロセスに埋め込み、人権に基づく正当化から技術的公平性に基づくものへと再構築するプロセスを分析している。これにより、エンジニアにとって倫理がより実行可能になる一方で、責任は下流の顧客に移転され、企業は倫理の配分者としての立場を取ることになり、AIシステムにおける構造的公平性の損なわれることを招くリスクをはらんでいる。

ABSTRACT

Activists, journalists, and scholars have long raised critical questions about the relationship between diversity, representation, and structural exclusions in data-intensive tools and services. We build on work mapping the emergent landscape of corporate AI ethics to center one outcome of these conversations: the incorporation of diversity and inclusion in corporate AI ethics activities. Using interpretive document analysis and analytic tools from the values in design field, we examine how diversity and inclusion work is articulated in public-facing AI ethics documentation produced by three companies that create application and services layer AI infrastructure: Google, Microsoft, and Salesforce. We find that as these documents make diversity and inclusion more tractable to engineers and technical clients, they reveal a drift away from civil rights justifications that resonates with the managerialization of diversity by corporations in the mid-1980s. The focus on technical artifacts, such as diverse and inclusive datasets, and the replacement of equity with fairness make ethical work more actionable for everyday practitioners. Yet, they appear divorced from broader DEI initiatives and other subject matter experts that could provide needed context to nuanced decisions around how to operationalize these values. Finally, diversity and inclusion, as configured by engineering logic, positions firms not as ethics owners but as ethics allocators; while these companies claim expertise on AI ethics, the responsibility of defining who diversity and inclusion are meant to protect and where it is relevant is pushed downstream to their customers.

研究の動機と目的

• 主なAIインfraストラクチャープロバイダーの公開AI倫理文書における多様性と包摂のフレーミングを調査すること。
• 企業のAI倫理における多様性と包摂の、人権に基づく正当化から技術的・エンジニアリング主導の定式化への移行を分析すること。
• 文書を通じて、倫理的AI導入の責任が企業から顧客に再配分される仕組みを探索すること。
• この再構築が、AIシステムにおける公平性、構造的包摂、人権に与える影響を評価すること。
• 企業倫理文書が倫理的実践をどのように形作るかを理解するための、価値の設計と制度的法制度枠組みの役割を検討すること。

提案手法

• Google、Microsoft、Salesforceの公開向けAI倫理文書を対象に解釈的文書分析を実施した。
• 価値の設計からの概念的枠組みを適用し、多様性と包摂が技術的ワークフローにどのように実装されているかを分析した。
• 制度的・組織論的理論を用いて、企業倫理文書における責任と説明責任の変化を検討した。
• 人権基盤の正当化が、公平性やデータ多様性といった技術的コンセプトに置き換えられるプロセスを追跡した。
• 文書の言語的・構造的特徴をマッピングし、責任の拡散と技術的道具化のパターンを同定した。
• これらの構成が、AI開発における包括的多様性（DEI）イニシアチブおよび人権適合性に与える影響を評価した。

実験結果

リサーチクエスチョン

• RQ1 Google、Microsoft、Salesforceは、その公開AI倫理文書において多様性と包摂をどのように規定しているか？
• RQ2 これらの文書は、多様性と包摂に人権に基づく正当化をどの程度保持しており、それらがどのように再構築されているか？
• RQ3 多様性と包摂が技術的問題としてフレーミングされることで、倫理的AI導入の責任分配にどのような影響を与えるか？
• RQ4 エンジニアリング論理と技術的アーティファクト（例：データセット、公平性メトリクス）は、AI倫理における多様性と包摂の意味をどのように再定義しているか？
• RQ5 これらの文書における多様性と包摂の再構築は、広範な人権基準および労働公平性の基準と一致するか、それとも乖離しているか？

主な発見

• 企業は、人権に基づく正当化から離れて、データと公平性に焦点を当てた技術的課題として多様性と包摂を再定義している。
• 多様性と包摂は、組織的・社会的改革ではなく、エンジニアリングタスク（例：多様なデータセットのキュレート）として扱われるようになっている。
• 公平性という概念が、構造的公平性の代わりに技術的ワークフローに置き換えられ、倫理的懸念が単純化されると同時に政治的中立化されている。
• 倫理的導入の責任は、顧客に体系的に移転されており、企業は倫理の配分者としての立場を取っているが、所有者ではない。
• 文書には、多様性作業が製品開発サイクルと技術的ワークフローに適合させるためのマネジメント志向の傾向が明確に現れている。
• この再構築は、労働者層の多様性や歴史的疎外の文脈を含む、構造的不平等の広範な文脈から倫理的AI実践を切り離すリスクをはらんでいる。