[論文レビュー] Ethically Aligned Design of Autonomous Systems: Industry viewpoint and an empirical study

Ville Vakkuri, Kai‐Kristian Kemell+3 more|Jyväskylä University Digital Archive (University of Jyväskylä)|Jun 19, 2019

Ethics and Social Impacts of AI参考文献 18被引用数 23

ひとこと要約

本論文は、自律システムを開発する5つの企業を対象とした複数ケーススタディを通じて、理論的AI倫理研究と実際の産業界実務との間のギャップを調査する。倫理的設計と産業的実装を一致させるための実行可能な戦略を提案し、倫理的配慮は認識されているものの、組織間での一貫性のない統合が明らかになった。

ABSTRACT

Progress in the field of artificial intelligence has been accelerating rapidly in the past two decades. Various autonomous systems from purely digital ones to autonomous vehicles are being developed and deployed out on the field. As these systems exert a growing impact on society, ethics in relation to artificial intelligence and autonomous systems have recently seen growing attention among the academia. However, the current literature on the topic has focused almost exclusively on theory and more specifically on conceptualization in the area. To widen the body of knowledge in the area, we conduct an empirical study on the current state of practice in artificial intelligence ethics. We do so by means of a multiple case study of five case companies, the results of which indicate a gap between research and practice in the area. Based on our findings we propose ways to tackle the gap.

研究の動機と目的

• 産業界の実務者が自律システム設計において倫理的原則をどのように実装しているかを検討すること。
• 学術的なAI倫理フレームワークと実際の産業界実務との間の乖離を特定すること。
• 倫理的AIの運用化に際して組織が直面する課題と制限要因を理解すること。
• AI開発における倫理と実務のギャップを埋めるための実用的で産業界に適した戦略を提案すること。

提案手法

• 自律システムを開発する5つの産業組織を対象とした複数ケーススタディを実施した。
• 倫理的統合に焦点を当てたインタビューと文書分析を通じて定性的データを収集した。
• 倫理的配慮を実際の開発プロセスと意思決定フレームワークにマッピングした。
• 製品設計および展開において倫理的配慮がどのように扱われている（あるいは無視されている）かのパターンを同定した。
• テーマ的分析を用いて、倫理的実装における繰り返し現れる課題と解決策を抽出した。
• 実証的発見に基づいて、倫理的設計と産業ワークフローを一致させるフレームワークを提案した。

実験結果

リサーチクエスチョン

• RQ1 産業組織は現在、自律システムの設計にどのように倫理的配慮を統合しているか？
• RQ2 産業現場におけるAI倫理の体系的実装を妨げる主な障壁は何であるか？
• RQ3 学術的な理論的フレームワークと実世界の開発実務との間で、どの程度の整合性が見られるか？
• RQ4 AI倫理研究と産業応用のギャップを埋めるための実用的戦略は何か？
• RQ5 組織の構造とプロセスは、自律システム開発における倫理の取り扱いにどのように影響するか？

主な発見

• 理論的AI倫理フレームワークとその産業界における実際の実装との間に顕著なギャップが存在する。
• 倫理的配慮はしばしばコア開発プロセスに統合されるのではなく、後から追加されるものとして扱われている。
• 正式な倫理レビュー体制や専任の倫理役員を有する企業は少数にとどまる。
• 倫理的意思決定はしばしば一時的で文脈依存的であり、標準化された手順が欠如している。
• 組織は、明確なガイドラインの欠如、規制の曇り、および競合するビジネス優先順位を主な障壁として挙げている。
• 倫理的リスクに気づいているにもかかわらず、多くの企業が倫理的設計選択を体系的に文書化または監査していない。