[論文レビュー] From What to How: An Initial Review of Publicly Available AI Ethics Tools, Methods and Research to Translate Principles into Practices

Jessica Morley, Luciano Floridi+2 more|arXiv (Cornell University)|May 15, 2019

Ethics and Social Impacts of AI被引用数 5

ひとこと要約

本論文は、AI倫理の原則と機械学習パイプラインにおける実装の間のギャップを埋めるためのタイプロジーを提案する。公開済みのツールや手法を分析することで、開発段階ごとに倫理的実践を分類し、開発者に対する実行可能なガイダンスを提供するとともに、抽象的原則を具体的でデプロイ可能な実践に変換するための今後の研究における重要なギャップを特定する。

ABSTRACT

The debate about the ethical implications of Artificial Intelligence dates from the 1960s. However, in recent years symbolic AI has been complemented and sometimes replaced by Neural Networks and Machine Learning techniques. This has vastly increased its potential utility and impact on society, with the consequence that the ethical debate has gone mainstream. Such debate has primarily focused on principles - the what of AI ethics - rather than on practices, the how. Awareness of the potential issues is increasing at a fast rate, but the AI community's ability to take action to mitigate the associated risks is still at its infancy. Therefore, our intention in presenting this research is to contribute to closing the gap between principles and practices by constructing a typology that may help practically-minded developers apply ethics at each stage of the pipeline, and to signal to researchers where further work is needed. The focus is exclusively on Machine Learning, but it is hoped that the results of this research may be easily applicable to other branches of AI. The article outlines the research method for creating this typology, the initial findings, and provides a summary of future research needs.

研究の動機と目的

• AI倫理の原則とそれらの機械学習システムにおける実装との間の拡大する乖離に対処すること。
• 機械学習パイプラインの各段階に倫理的配慮をマッピングする構造的タイプロジーを構築すること。
• 開発者がAI開発の各段階で適切な倫理ツールや手法を選択・適用するのを支援すること。
• AI倫理を実務化するために、さらなる手法的開発が求められる分野における重要な研究ギャップを特定すること。
• 抽象的倫理原則（「何をすべきか」）から実行可能な実践（「どうやるか」）への移行を支援すること。

提案手法

• 著者らは、公開済みのAI倫理ツール、手法、研究論文を体系的にレビューした。
• これらのツールや手法を、それらが適用される機械学習パイプラインの段階（例：データ収集、モデル訓練、デプロイメント）に応じて分類した。
• タイプロジーは、ツールの目的とする倫理的意義と技術的実装を焦点とした主題的分析に基づいて構築された。
• コンピュータサイエンス、倫理、AI政策の分野からの学際的出典を活用し、関連するアプローチを包括的にカバーすることを目的とした。
• 各ツールや手法の成熟度、範囲、適用可能性を評価するための構造化されたフレームワークを用いた。
• 最終的なタイプロジーは、継続的な開発とコミュニティ参加を支援するため、オンラインでライブリソースとして公開された。

実験結果

リサーチクエスチョン

• RQ1 既存のAI倫理ツールや手法は、機械学習パイプラインのどの段階にどのように分布しているか。
• RQ2 現在のツールが主に解決しようとしている倫理的懸念は何か、また、確立されたAI倫理原則とどのように整合しているか。
• RQ3 現在のツールリングに見られる主な制限やギャップは何か。それらはAI倫理の実装を妨げている。
• RQ4 構造的タイプロジーは、開発者や研究者が現実のAIシステムにおいて抽象的倫理原則を実務化するのをどのように支援できるか。
• RQ5 倫理原則と実務応用のギャップを埋めるために、最も緊急に必要な研究やツール開発の種類は何か。

主な発見

• 122個の公開済みAI倫理ツールや手法を、機械学習パイプラインの特定の段階にマッピングする包括的なタイプロジーが開発された。
• 大多数のツールがデータおよびモデル開発段階に集中しており、デプロイメントおよびモニタリング段階に対応するものは少ない。
• ツールのわずか15％しか、デプロイメント後のモニタリングや継続的倫理評価をサポートしていなかった。
• 多くのツールが標準的なMLワークフローに統合されておらず、開発者の実際の採用を制限している。
• 権力の不均衡、疎外、長期的社会的影響といったシステム的問題に対応するツールが著しく不足している。
• AIライフサイクル全体にわたり、学際的協働や倫理的意思決定を支援するツールの開発が、極めて重要であると同定された。