[论文解读] A Systematic Literature Review of Human-Centered, Ethical, and Responsible AI

Mohammad Tahaei, Marios Constantinides+2 more|arXiv (Cornell University)|Feb 10, 2023

Ethics and Social Impacts of AI被引用 6

一句话总结

本篇系统性文献回顾分析了来自AIES、CHI、CSCW和FAcT的164篇论文，以描绘以人为本、伦理及负责任的人工智能（HCER-AI）的现状，揭示了对治理、公平性和可解释性的强烈关注，但隐私、安全性和人类繁荣方面仍存在显著缺口。该研究呼吁扩大研究范围，以预见人工智能的不可预见影响，并将关注领域从当前主导的主题中拓展出来。

ABSTRACT

As Artificial Intelligence (AI) continues to advance rapidly, it becomes increasingly important to consider AI's ethical and societal implications. In this paper, we present a bottom-up mapping of the current state of research at the intersection of Human-Centered AI, Ethical, and Responsible AI (HCER-AI) by thematically reviewing and analyzing 164 research papers from leading conferences in ethical, social, and human factors of AI: AIES, CHI, CSCW, and FAccT. The ongoing research in HCER-AI places emphasis on governance, fairness, and explainability. These conferences, however, concentrate on specific themes rather than encompassing all aspects. While AIES has fewer papers on HCER-AI, it emphasizes governance and rarely publishes papers about privacy, security, and human flourishing. FAccT publishes more on governance and lacks papers on privacy, security, and human flourishing. CHI and CSCW, as more established conferences, have a broader research portfolio. We find that the current emphasis on governance and fairness in AI research may not adequately address the potential unforeseen and unknown implications of AI. Therefore, we recommend that future research should expand its scope and diversify resources to prepare for these potential consequences. This could involve exploring additional areas such as privacy, security, human flourishing, and explainability.

研究动机与目标

• 描绘在领先人工智能会议中，以人为本、伦理及负责任的人工智能（HCER-AI）研究现状的现状。
• 识别HCER-AI文献中主导的研究主题、方法及缺口。
• 评估当前研究是否充分应对人工智能可能带来的长期、不可预见或未知的社会影响。
• 提出未来研究方向，以超越公平性、治理和可解释性的范畴，拓宽研究视野。
• 通过基于证据的综合分析，支持开发更全面、与社会目标一致的人工智能系统。

提出的方法

• 对AIES、CHI、CSCW和FAcT——人工智能伦理与人因工程领域领先会议——中164篇经同行评审的论文进行了系统性文献回顾。
• 基于Braun和Clarke（2008）的方法，采用主题分析法对所收集论文中的研究主题进行分类与解读。
• 绘制各会议中研究主题、研究方法及主题分布情况，以识别模式与差异。
• 评估关键HCER-AI维度（公平性、治理、可解释性、隐私、安全性及人类繁荣）的代表性。
• 通过定性综合方法，识别出反复出现的研究缺口及新兴优先事项。
• 基于文献的主题与方法论分析，提出未来研究的建议。

Figure 1. An overview of our research method. We started with 228 records from the ACM Digital Library. After assessing quality and eligibility based on our inclusion criteria, we included and analyzed 164 research papers.

实验结果

研究问题

• RQ1 在AIES、CHI、CSCW和FAcT会议上，HCER-AI的研究现状如何？
• RQ2 HCER-AI研究中主要使用哪些研究方法？
• RQ3 HCER-AI中存在哪些关键研究缺口，特别是在代表性不足的领域？
• RQ4 不同会议在优先考虑或忽视隐私、安全性和人类繁荣等特定HCER-AI维度方面有何差异？
• RQ5 当前研究在多大程度上预见了人工智能可能带来的不可预见或未知的社会后果？

主要发现

• CHI和CSCW在HCER-AI领域展现出最广泛的研究组合，相较于较新的会议，其涵盖的人本化与伦理关切范围更广。
• AIES和FAcT在治理与公平性方面具有显著侧重，但发表的关于隐私、安全性和人类繁荣的论文数量极少。
• 可解释性是一个普遍主题，尤其在AIES和FAcT中，但通常被视作技术挑战，而非社会议题。
• 文献中对人工智能的长期、系统性或新兴风险关注有限，特别是对边缘化群体和集体社会影响方面。
• 尽管呼声日益高涨，但HCER-AI研究中仍明显缺乏真实世界评估与工作整合式学习方法。
• 专利率分析显示，人工智能驱动决策与可解释性趋势显著，对模型性能与透明度的兴趣持续增长，但对伦理治理或社会影响的关注度较低。

Figure 2. Count of HCER-AI papers per research method (n=164).