[論文レビュー] Principles to Practices for Responsible AI: Closing the Gap

Daniel Schiff, Bogdana Rakova+3 more|arXiv (Cornell University)|Jun 8, 2020

Ethics and Social Impacts of AI参考文献 28被引用数 62

ひとこと要約

論文は高水準の責任あるAI原則が実践へ翻訳されない理由を分析し、ギャップを埋める枠組みとして影響評価、特にIEEE 7010を提案し、森林再生のケーススタディで実例を示す。

ABSTRACT

Companies have considered adoption of various high-level artificial intelligence (AI) principles for responsible AI, but there is less clarity on how to implement these principles as organizational practices. This paper reviews the principles-to-practices gap. We outline five explanations for this gap ranging from a disciplinary divide to an overabundance of tools. In turn, we argue that an impact assessment framework which is broad, operationalizable, flexible, iterative, guided, and participatory is a promising approach to close the principles-to-practices gap. Finally, to help practitioners with applying these recommendations, we review a case study of AI's use in forest ecosystem restoration, demonstrating how an impact assessment framework can translate into effective and responsible AI practices.

研究の動機と目的

• 責任あるAI原則が組織の実践へしばしば翻訳されない理由を説明する。
• 複雑さ、説明責任、学問分野間の分断を含む原則と実践のギャップの主要な説明を特定する。
• 影響評価を中心とした責任あるAIの効果的な枠組みを提案する。
• IEEE 7010 のウェルビーイング影響評価がギャップを埋める実践的な模範であると主張する。
• 森林生態系の回復におけるAIのケーススタディを通じて適用性を実証し、実践可能な実践を例示する。

提案手法

• 既存の責任あるAI原則と実践的採用へのギャップを検討する。
• 複雑さ、説明責任の分配、学問分野間の分断、ツールの豊富さ、組織内の労働分業の5つの説明を概説する。
• 広く、実行可能で、柔軟で、反復的で、指導的かつ参加型の効果的な枠組みの基準を提案する。
• 影響評価、特にIEEE 7010を模範的な枠組みとして推奨する。
• 森林生態系の回復におけるAIのケーススタディで枠組みを適用し、実践的な翻訳を示す。

実験結果

リサーチクエスチョン

• RQ1 責任あるAIの原則が組織内で具体的な実践へ翻訳されない要因は何か？
• RQ2 AIの開発と展開における原則と実践のギャップに、どのように包括的な枠組みが対処できるか？
• RQ3 影響評価、特にIEEE 7010 が、ライフサイクル全体の段階で責任あるAIの原則を具体化できるか？
• RQ4 生態系回復のケーススタディは、ウェルビーイング影響評価の利用を、責任あるAIの指針としてどのように示すか？
• RQ5 セクターやケースに跨って影響評価を適用するために、どのような指針が必要か？

主な発見

• ギャップの主な5つの説明がある：AIの広範で複雑な影響、あいまいな説明責任、学問分野の分断、ツールの多さ、組織内の労働分業。
• 広く、実装可能で、柔軟で、反復的で、指導的かつ参加型の影響評価枠組みが、原則を実践へ翻訳するのを支援できる。
• IEEE 7010 のウェルビーイング影響評価は、領域を測定可能な指標とステークホルダーの関与に結び付けて、実践的な模範を提供する。
• 影響評価は多様なユースケースに適応可能で、システムと文脈が変化するにつれて反復的に更新できる。
• 単一のツールを超えた指針が必要で、参加型の枠組みの中で、セクターおよび文脈特有の適応を優先する。