[論文レビュー] A Systematic Literature Review of Human-Centered, Ethical, and Responsible AI

Mohammad Tahaei, Marios Constantinides+2 more|arXiv (Cornell University)|Feb 10, 2023

Ethics and Social Impacts of AI被引用数 6

ひとこと要約

本系統的文献レビューは、AIES、CHI、CSCW、FAcTから164編の論文を分析し、人間中心で、倫理的かつ責任あるAI（HCER-AI）の現状をマッピングした。その結果、ガバナンス、公平性、説明可能性に強い注目が集まっている一方で、プライバシー、セキュリティ、人的な豊かさ（human flourishing）の分野には顕著なギャップが生じていることが明らかになった。本研究は、予期しないAIの影響を予測し、現在の支配的テーマである公平性、ガバナンス、説明可能性を超えた多様な分野に焦点を広げるための研究範囲の拡大を要請している。

ABSTRACT

As Artificial Intelligence (AI) continues to advance rapidly, it becomes increasingly important to consider AI's ethical and societal implications. In this paper, we present a bottom-up mapping of the current state of research at the intersection of Human-Centered AI, Ethical, and Responsible AI (HCER-AI) by thematically reviewing and analyzing 164 research papers from leading conferences in ethical, social, and human factors of AI: AIES, CHI, CSCW, and FAccT. The ongoing research in HCER-AI places emphasis on governance, fairness, and explainability. These conferences, however, concentrate on specific themes rather than encompassing all aspects. While AIES has fewer papers on HCER-AI, it emphasizes governance and rarely publishes papers about privacy, security, and human flourishing. FAccT publishes more on governance and lacks papers on privacy, security, and human flourishing. CHI and CSCW, as more established conferences, have a broader research portfolio. We find that the current emphasis on governance and fairness in AI research may not adequately address the potential unforeseen and unknown implications of AI. Therefore, we recommend that future research should expand its scope and diversify resources to prepare for these potential consequences. This could involve exploring additional areas such as privacy, security, human flourishing, and explainability.

研究の動機と目的

• 人間中心で、倫理的かつ責任あるAI（HCER-AI）の交差分野における研究の現状を、主要な国際会議でマッピングすること。
• HCER-AI文献における支配的テーマ、研究手法、およびギャップを同定すること。
• 現在の研究が、AIの長期的、予期しない、または未知の社会的影響を十分に扱っているかどうかを評価すること。
• 公平性、ガバナンス、説明可能性を超えて、研究範囲を拡大する今後の研究方向性を提言すること。
• 証拠に基づく統合的手法を通じて、より包括的で社会的価値と整合性のあるAIシステムの開発を支援すること。

提案手法

• AI倫理と人間要因分野の主要会議であるAIES、CHI、CSCW、FAcTから抽出された164編の査読済み論文を対象に、系統的文献レビューを実施した。
• BraunとClarke（2008）に基づく主題分析を用い、収集した論文の間で研究テーマを分類・解釈した。
• 会議ごとの研究トピック、研究手法、主題の分布をマッピングし、パターンと格差を同定した。
• 公平性、ガバナンス、説明可能性、プライバシー、セキュリティ、人的な豊かさといった、HCER-AIの主要次元の代表性を評価した。
• 質的統合を用いて、繰り返し現れる研究ギャップと、新たな優先課題を同定した。
• 文献の主題的および手法的分析に基づき、今後の研究の提言を生成した。

Figure 1. An overview of our research method. We started with 228 records from the ACM Digital Library. After assessing quality and eligibility based on our inclusion criteria, we included and analyzed 164 research papers.

実験結果

リサーチクエスチョン

• RQ1 AIES、CHI、CSCW、FAcT会議におけるHCER-AI分野の研究の現状は何か？
• RQ2 HCER-AI研究で主に用いられている研究手法は何か？
• RQ3 HCER-AI分野における主な研究ギャップ、特に未反映分野は何か？
• RQ4 異なる会議は、プライバシー、セキュリティ、人的な豊かさといった特定のHCER-AI次元を、どのように優先または無視しているか？
• RQ5 現在の研究は、AIの予期しないまたは未知の社会的影響をどの程度予測しているか？

主な発見

• CHIとCSCWは、新しい会議に比べ、人間中心で倫理的な懸念をより広くカバーする、最も包括的な研究ポートフォリオを示している。
• AIESとFAcTは、ガバナンスと公平性に強く注目しているが、プライバシー、セキュリティ、人的な豊かさに関する論文は極めて少ない。
• 説明可能性は共通のテーマであるが、特にAIESとFAcTで顕著であり、社会的側面ではなく技術的課題として扱われていることが多い。
• 文献は、マイノリティコミュニティや集団的・社会的影響を含む、長期的でシステム的、または発生的リスクに対する注意が著しく不足している。
• 実社会の評価やワークインテグレーテッドラーニングの手法への関心が高まる中、HCER-AI研究においては、こうしたアプローチが著しく欠落している。
• 特許分析から、AI駆動意思決定と解釈可能性への強い傾向が明らかになった。モデルの性能と透明性に関する関心も高まっているが、倫理的ガバナンスや社会的影響への注目はそれほど強くない。

Figure 2. Count of HCER-AI papers per research method (n=164).