[論文レビュー] Seeing Like a Toolkit: How Toolkits Envision the Work of AI Ethics

Richmond Y. Wong, Michael Madaio+1 more|arXiv (Cornell University)|Feb 17, 2022

Ethics and Social Impacts of AI被引用数 6

ひとこと要約

本稿は、27のAI倫理ツールキットを批判的に分析し、それらが倫理作業を個人的で技術的なタスクとして描いているが、同時に幅広いステークホルダーの参加を提唱していることから、そのギャップを明らかにする。労働、組織的および権力のダイナミクスを支援する点に深刻な欠落があり、集団的行動とシステム的変化を軸にツールキットを再設計するよう提言する。

ABSTRACT

Numerous toolkits have been developed to support ethical AI development. However, toolkits, like all tools, encode assumptions in their design about what work should be done and how. In this paper, we conduct a qualitative analysis of 27 AI ethics toolkits to critically examine how the work of ethics is imagined and how it is supported by these toolkits. Specifically, we examine the discourses toolkits rely on when talking about ethical issues, who they imagine should do the work of ethics, and how they envision the work practices involved in addressing ethics. Among the toolkits, we identify a mismatch between the imagined work of ethics and the support the toolkits provide for doing that work. In particular, we identify a lack of guidance around how to navigate labor, organizational, and institutional power dynamics as they relate to performing ethical work. We use these omissions to chart future work for researchers and designers of AI ethics toolkits.

研究の動機と目的

• AI倫理ツールキットが倫理的作業をどのようにフレームするかを調査すること。これには、使用する弁護的言説、責任を負うと想定される参加者、および想定される実践が含まれる。
• ツールキットが提唱する社会的・技術的統合的ビジョンと、その実際の支援内容との間にある不一致を特定すること。
• AI開発における倫理的開発における、賃金労働、組織的および制度的権力ダイナミクスを扱うためのガイドラインの欠如を露呈すること。
• ツールキット設計者に対して、倫理的AI作業の社会的・集団的・政治的側面をよりよく支援するための実行可能な提言を提供すること。
• 倫理ツールキットの支配的で個人的かつ技術的なフレーミングに挑戦し、現実の組織的複雑性を反映する介入形態を提唱すること。

提案手法

• 学術的、産業的、一般公開のソースから特定の検索キーワードを用いて選別した27のAI倫理ツールキットを対象に、定性的コンテンツ分析を実施した。
• 倫理的アプローチの正当化に用いる言語と物語を検証するため、批判的ディス course分析を用いた。
• ツールキットの想定される利用者、促進する倫理的作業の種別、および想定される組織的役割や実践を特定・コード化した。
• ステークホルダー参加の目的として述べられているものと、実際のステークホルダー参加を支援する内容との整合性（または不整合性）をマッピングした。
• AI倫理作業における権力ダイナミクス、賃金構造、制度的制約をどれほど扱っているかを分析した。
• 比較分析を用いてツールキット間のパターンを同定し、共通点と顕著な例外（例：Data Ethicallyツールキット）を特定した。

実験結果

リサーチクエスチョン

• RQ1 AI倫理ツールキットは、その使用を正当化するために、どのような倫理の弁護的言説を用いているか？
• RQ2 ツールキットは、AIにおける倫理的課題を解決する責任を、誰だと想定しているか？
• RQ3 ツールキットは、AI開発における倫理的開発を想定・支援する具体的な作業実践をどのように描いているか？
• RQ4 ツールキットが想定する役割と実践は、AI開発における現実の組織的および権力ダイナミクスとどのように整合しているか？
• RQ5 ツールキット設計の選択が、倫理的AI介入のスケーラビリティと有効性に及ぼす影響は何か？

主な発見

• AI倫理ツールキットは、倫理的作業を技術的かつ個人主義的であると主にフレームしており、開発者やエンジニアに責任を帰しているが、同時に幅広いステークホルダー参加を提唱している。
• 多様なステークホルダー参加を呼びかけているものの、大多数のツールキットは、非技術的または弱い立場のステークホルダーを倫理的意思決定に意味的に統合する方法について、最小限のガイダンスを提供している。
• 階層的意思決定や制度的変化への抵抗に挑戦する方法を含む、組織的権力構造を扱う支援が著しく不足している。
• 集団的行動を組織する方法、労働者擁護を支援する方法、またはユニオンや労働運動を活用する方法といった賃金ダイナミクスに対応するツールキットは少数である。
• Data Ethicallyツールキットは顕著な例外であり、集団的行動や賃金に配慮した倫理的実践を支援するリソースを提供している。
• 社会的・技術的統合的ビジョンと、技術的かつ個人主義的な支援との間にある不一致は、複雑な組織的環境におけるツールキットの現実的有効性を損なっている。