[論文レビュー] Understanding artificial intelligence ethics and safety

David Leslie|arXiv (Cornell University)|Jun 11, 2019

Ethics and Social Impacts of AI参考文献 276被引用数 136

ひとこと要約

この論文は、公共部門におけるAIの潜在的な害を特定し、ガバナンス、責任あるイノベーション、人間中心で解釈可能なAIの運用手段を提案するガイドを提示します。

ABSTRACT

A remarkable time of human promise has been ushered in by the convergence of the ever-expanding availability of big data, the soaring speed and stretch of cloud computing platforms, and the advancement of increasingly sophisticated machine learning algorithms. Innovations in AI are already leaving a mark on government by improving the provision of essential social goods and services from healthcare, education, and transportation to food supply, energy, and environmental management. These bounties are likely just the start. The prospect that progress in AI will help government to confront some of its most urgent challenges is exciting, but legitimate worries abound. As with any new and rapidly evolving technology, a steep learning curve means that mistakes and miscalculations will be made and that both unanticipated and harmful impacts will occur. This guide, written for department and delivery leads in the UK public sector and adopted by the British Government in its publication, 'Using AI in the Public Sector,' identifies the potential harms caused by AI systems and proposes concrete, operationalisable measures to counteract them. It stresses that public sector organisations can anticipate and prevent these potential harms by stewarding a culture of responsible innovation and by putting in place governance processes that support the design and implementation of ethical, fair, and safe AI systems. It also highlights the need for algorithmically supported outcomes to be interpretable by their users and made understandable to decision subjects in clear, non-technical, and accessible ways. Finally, it builds out a vision of human-centred and context-sensitive implementation that gives a central role to communication, evidence-based reasoning, situational awareness, and moral justifiability.

研究の動機と目的

• 公共部門におけるAIシステムが生み出す潜在的な害を特定する。
• 害を打ち消すための具体的で運用可能な対策を提案する。
• ガバナンスプロセスと責任あるイノベーションの文化を推進する。
• 意思決定の対象者に対して、AIの結果を解釈可能で非技術的な説明を提供することを提唱する。
• 人間中心かつ文脈依存的なAI実装のビジョンを構築する。

提案手法

• 公共部門の文脈におけるAIの害とガバナンスニーズの現状を概観する。
• 具体的で運用可能なガバナンス手段と責任あるイノベーションの実践を提案する。
• アルゴリズムで裏付けられた成果がユーザーにとって解釈可能である必要性を強調する。
• AIの展開において、コミュニケーション、証拠に基づく推論、状況認識、そして道徳的正当性を訴える。

実験結果

リサーチクエスチョン

• RQ1 公共部門の設定においてAIシステムはどのような潜在的な害を引き起こす可能性があるか。
• RQ2 これらの害を予見し、防止するためにどのようなガバナンスプロセスと実践があるか。
• RQ3 AIの成果を非技術的な意思決定者や対象者にとって解釈可能で理解しやすくするにはどうするか。
• RQ4 公共部門における人間中心かつ文脈依存的なAI実装を特徴づけるものは何か。

主な発見

• AIの革新は政府による社会的資源の提供を改善する可能性があるが、正当なリスクと潜在的な害を伴う。
• 害を予見し防止するには、ガバナンスと責任あるイノベーションの文化が不可欠である。
• アルゴリズムによる成果は、ユーザーに対して明確で非技術的な用語で解釈可能で説明可能であるべきだ。
• 実装は人間中心で、文脈依存的であり、コミュニケーション、証拠に基づく推論、状況認識に根ざしているべきである。
• 政府の文脈でのAIシステムの設計と展開には道徳的正当性が中心となるべきである。