[論文レビュー] AI Ethics for Systemic Issues: A Structural Approach

Agnes Schim van der Loeff, I. G. Bassi+2 more|arXiv (Cornell University)|Nov 8, 2019

Ethics and Social Impacts of AI参考文献 18被引用数 8

ひとこと要約

本稿は、気候変動や食料安全保障といったグローバルな課題において、AIが社会的・経済的・政治的文脈と相互作用することで生じるシステム的リスクに焦点を当て、現在の個人的責任志向のモデルとは補完的である構造的アプローチを提唱する。技術的対策や個人の責任だけでは不十分であり、分野横断的協働、国際的倫理基準、構造的ガバナンスの強化によって、AIが共通の利益に貢献することを保証する必要があると主張する。

ABSTRACT

The debate on AI ethics largely focuses on technical improvements and stronger regulation to prevent accidents or misuse of AI, with solutions relying on holding individual actors accountable for responsible AI development. While useful and necessary, we argue that this "agency" approach disregards more indirect and complex risks resulting from AI's interaction with the socio-economic and political context. This paper calls for a "structural" approach to assessing AI's effects in order to understand and prevent such systemic risks where no individual can be held accountable for the broader negative impacts. This is particularly relevant for AI applied to systemic issues such as climate change and food security which require political solutions and global cooperation. To properly address the wide range of AI risks and ensure 'AI for social good', agency-focused policies must be complemented by policies informed by a structural approach.

研究の動機と目的

• 現在のAI倫理議論の限界を批判すること。特に、個人の責任と技術的対策に焦点を当てた議論の限界を指摘する。
• AIが社会的・政治的システムに統合されることによって生じる、格差の拡大や監視の促進といったシステム的リスクを浮き彫りにすること。
• 直接的で文脈依存的かつ集団的影響を考慮に入れた構造的アプローチを提唱すること。特に気候変動や食料安全保障といったグローバルな課題において。
• AI研究者、社会科学者、政策立案者との分野横断的協働を呼びかけること。これにより、システム的リスクを予測し、緩和できるようにする。
• 国際的基準や独立した執行機関を含む、政策的・ガバナンス的メカニズムを提言すること。これにより、AIが共通の利益に貢献することを保証する。

提案手法

• 既存のAI倫理フレームワークを分析し、技術的改善や個人の責任に過度に依存している点を特定する。
• アルゴリズムの公平性、透明性、責任の所在に焦点を当てる「機械的責任」アプローチと、システム的・文脈的・集団的リスクに注目する「構造的」アプローチを対比する。
• 気候変動モデリングや食料安全保障におけるAIの事例研究を検討し、データ共有やモデル出力が地政的・経済的不安定を引き起こす可能性を示す。
• AI開発者が技術的セーフティに加え、データやモデルの拡散に伴う広範な社会的・政治的影響を評価する必要があると提言する。
• 社会科学者や政策立案者の意見を反映させた構造的リスク評価を倫理規定に統合するよう勧告する。
• 国際的協力、標準化された倫理規定、独立した規制機関の設立を提言する。これにより、スケールに応じた倫理的AIの実現が可能になる。

実験結果

リサーチクエスチョン

• RQ1 なぜ現在のAI倫理的取り組みは、気候変動や食料安全保障といった分野におけるシステム的リスクに対処するのに不十分なのか？
• RQ2 社会的・政治的・経済的文脈が、AIシステムが技術的に公平で透明であっても、その影響をどのように拡大または歪めるのか？
• RQ3 権力の不均衡、資源不足、グローバルな格差といった構造的要因が、AIの現実世界への影響をどのように形作っているのか？
• RQ4 個人の責任を超えた構造的リスク評価を含めるには、倫理ガイドラインをどのように見直すべきか？
• RQ5 国家的および国際的レベルで、構造的アプローチをAI倫理に適用するための制度的・ガバナンス的メカニズムは何か？

主な発見

• 技術的対策や個人の責任に焦点を当てる機械的責任志向のAI倫理アプローチは、AIが社会的・政治的構造と相互作用することで生じる間接的かつシステム的リスクに対処できない。
• 食料安全保障におけるAIの事例は、構造的不平等や権力ダイナミクスを考慮しない限り、意図は善良でも地政的緊張や資源紛争を引き起こす可能性があることを示している。
• ケンブリッジ・アナリティカスキャンダルは、マイクロターゲティングによる政治的操作を助長するようなシステム的リスクが、技術的対策や個人の責任では解決できないことを示している。
• 構造的アプローチでは、AI開発者がアルゴリズムのパフォーマンスだけでなく、データ共有やモデル展開の広範な社会的・政治的影響を評価する必要がある。
• 『倫理のショッピング』を防ぎ、AIがグローバルな公共財を支えるようにするため、国際的協調と標準化された倫理基準が不可欠である。
• 独立した規制機関と分野横断的協働は、抽象的な倫理的原則を実行可能で効果的な政策に変換し、システム的リスクを緩和するために不可欠である。