[論文レビュー] From What to How. An Overview of AI Ethics Tools, Methods and Research to Translate Principles into Practices.

Jessica Morley, Luciano Floridi+2 more|arXiv (Cornell University)|May 15, 2019

Ethics and Social Impacts of AI被引用数 41

ひとこと要約

本稿は、AI倫理の原則と機械学習パイプラインにおけるその実装の間のギャップを埋める実用的な分類法を提案し、開発者が各段階で実行可能な手法を提供する。倫理の実装を「何を」（原則）から「どのように」（実践）に変換するかに焦点を当て、重要なツールと研究ニーズを同定する。

ABSTRACT

The debate about the ethical implications of Artificial Intelligence dates from the 1960s. However, in recent years symbolic AI has been complemented and sometimes replaced by Neural Networks and Machine Learning techniques. This has vastly increased its potential utility and impact on society, with the consequence that the ethical debate has gone mainstream. Such debate has primarily focused on principles - the what of AI ethics - rather than on practices, the how. Awareness of the potential issues is increasing at a fast rate, but the AI community's ability to take action to mitigate the associated risks is still at its infancy. Therefore, our intention in presenting this research is to contribute to closing the gap between principles and practices by constructing a typology that may help practically-minded developers apply ethics at each stage of the pipeline, and to signal to researchers where further work is needed. The focus is exclusively on Machine Learning, but it is hoped that the results of this research may be easily applicable to other branches of AI. The article outlines the research method for creating this typology, the initial findings, and provides a summary of future research needs.

研究の動機と目的

• AI倫理の原則とその機械学習システムにおける実際の実装との間の拡大する乖離に対処すること。
• 開発者が機械学習パイプラインの全段階にわたり倫理を適用するのを支援する構造的な分類法を構築すること。
• 現実世界のAI開発における倫理的原則を実装するための実行可能なツールや手法を強調すること。
• 理論的原則を超えて応用的AI倫理分野を前進させるために、重要な研究ギャップを明らかにすること。
• 機械学習にとどまらず、他のAI分野へも適用可能な、実装に焦点を当てた基盤を提供すること。

提案手法

• 既存のAI倫理ツール、手法、研究を体系的に分析し、開発段階ごとにパターンを同定し、分類する。
• 機械学習パイプラインの特定の段階（例：データ収集、モデル学習、デプロイメント）に倫理的配慮をマッピングする分類法を構築する。
• 各パイプライン段階における機能別にツールを分類する（例：バイアス検出、公平性評価、解釈可能性技術など）。
• 主題的および機能的分析を用いて、各手法の目的とMLライフサイクル内での統合ポイントに基づきグループ化する。
• 各ツールや手法の成熟度と現実世界の開発文脈における適用可能性を評価する。
• 繰り返し現れる制限要因や未開発分野を同定し、今後の研究優先分野を導く。

実験結果

リサーチクエスチョン

• RQ1 AIにおける倫理的原則は、どのようにして機械学習開発パイプライン内で体系的かつ実行可能な実践に翻訳できるか？
• RQ2 MLライフサイクルの異なる段階で倫理的実装を支援するための、現在利用可能なツールや手法の種類は何か？
• RQ3 既存の倫理ツールや手法が最も不足している機械学習パイプラインのどの段階か？
• RQ4 AI倫理の原則の効果的実装を阻害する主な研究とツールのギャップは何か？
• RQ5 提案された分類法は、機械学習を越えた幅広いAI分野へどのように拡張または適応可能か？

主な発見

• 倫理的ツールや手法を機械学習パイプラインの特定の段階にマッピングする包括的な分類法が開発され、倫理の構造的適用が可能になった。
• 多くの既存ツールがモデル開発中に統合されるのではなく、後続の評価に焦点を当てており、前向きな倫理的支援の欠如が示された。
• 解釈可能性と公平性評価分野のツールが最も成熟している一方、データ中心の倫理的ツールは未発達である。
• MLライフサイクル全体にわたり倫理的意思決定を支援する標準的でスケーラブルかつ統合可能なツールの著しい不足が明らかになった。
• 研究では、ツールの相互運用性、リアルタイム監視、開発者フレンドリーなインターフェースといった、重要な研究ニーズが同定された。
• 分類法は、実務家と研究者双方がAIシステムにおける倫理的原則と実装を一致させる基盤を提供する。