[論文レビュー] AI Ethics Issues in Real World: Evidence from AI Incident Database

Mengyi Wei, Zhixuan Zhou|arXiv (Cornell University)|Jun 15, 2022

Ethics and Social Impacts of AI被引用数 28

ひとこと要約

本論文は、AIインシデントデータベースを用いて実世界の事例におけるAI倫理問題の最初の分類体系を構築し、13の適用分野と8つの倫理問題カテゴリを特定し、2010–2021年から分析した150件のインシデントを明らかにしている。

ABSTRACT

With the powerful performance of Artificial Intelligence (AI) also comes prevalent ethical issues. Though governments and corporations have curated multiple AI ethics guidelines to curb unethical behavior of AI, the effect has been limited, probably due to the vagueness of the guidelines. In this paper, we take a closer look at how AI ethics issues take place in real world, in order to have a more in-depth and nuanced understanding of different ethical issues as well as their social impact. With a content analysis of AI Incident Database, which is an effort to prevent repeated real world AI failures by cataloging incidents, we identified 13 application areas which often see unethical use of AI, with intelligent service robots, language/vision models and autonomous driving taking the lead. Ethical issues appear in 8 different forms, from inappropriate use and racial discrimination, to physical safety and unfair algorithm. With this taxonomy of AI ethics issues, we aim to provide AI practitioners with a practical guideline when trying to deploy AI applications ethically.

研究の動機と目的

• 高レベルなガイドラインを超えた実践的なAI倫理の知見の必要性を動機づける。
• 実世界のインシデントで観察されたAI倫理問題の分類体系を構築する。
• 倫理問題が最も多く見られる適用分野を特定する。
• 実証的な証拠に基づいて、実務家がより倫理的にAIを展開するためのガイダンスを提供する。

提案手法

• AI Incident Database から150件のAI倫理インシデントを収集する。
• 従来の内容分析を実施してカテゴリと適用分野を導出する。
• 2名の研究者が独立してデータをコーディングし、Krippendorff’s alpha の信頼性検証を行う。
• 適用分野（13）と倫理問題（8）の分類体系を提示する。
• インシデントの知見を既存のAI倫理ガイドラインに関連づけ、含意を議論する。

実験結果

リサーチクエスチョン

• RQ1 さまざまな適用分野において、現実世界のAI倫理問題はどのように発生するか？
• RQ2 AI倫理問題は時間的・地理的にどのように分布するか？
• RQ3 観察された倫理問題は既存のAI倫理ガイドラインとどのように対応するか？
• RQ4 AIシステムの倫理的設計と展開のために、実務的なガイダンスとして何を引き出せるか？

主な発見

• インシデントは2010–2021年にまたがり、2016年にピーク、2020年にも別のピークを示す。
• ほとんどのインシデントは米国・中国・英国で発生（合計で150件中89件）。
• 13の適用分野を特定。その中で知能サービスロボット、言語/視覚モデル、自動運転が先行。
• 8つの倫理問題カテゴリを特定。誤用（性能の悪さ）、人種差別、物理的安全、アルゴリズムの不公正が顕著な問題として挙げられる。
• 各適用分野で特定の倫理問題が明確なパターンを示す。例として自動運転では物理的安全が支配的、言語/視覚モデルでは人種差別が顕著。
• 観察された実世界の問題とAI倫理ガイドラインの普遍的原則（透明性、正義/公平、未然防止）との整合性があるが、ガイドラインは依然として抽象的である。