[论文解读] Artificial intelligence in government: Concepts, standards, and a unified framework

Vincent J. Straub, Deborah Morgan+2 more|arXiv (Cornell University)|Oct 31, 2022

Legal and Policy Issues被引用 5

一句话总结

本文通过整合社会科学与技术视角，提出一个统一的概念框架以理解政府中的人工智能（AI-GOV），其核心概念包括：运行适应性、认识论一致性与规范分歧。基于对69个关键术语的文献计量分析，作者构建了一个分类体系，将这些概念与新兴的人工智能标准相联系，从而促进跨学科对话，并在公共行政中实现人工智能治理的可操作化。

ABSTRACT

Recent advances in artificial intelligence (AI), especially in generative language modelling, hold the promise of transforming government. Given the advanced capabilities of new AI systems, it is critical that these are embedded using standard operational procedures, clear epistemic criteria, and behave in alignment with the normative expectations of society. Scholars in multiple domains have subsequently begun to conceptualize the different forms that AI applications may take, highlighting both their potential benefits and pitfalls. However, the literature remains fragmented, with researchers in social science disciplines like public administration and political science, and the fast-moving fields of AI, ML, and robotics, all developing concepts in relative isolation. Although there are calls to formalize the emerging study of AI in government, a balanced account that captures the full depth of theoretical perspectives needed to understand the consequences of embedding AI into a public sector context is lacking. Here, we unify efforts across social and technical disciplines by first conducting an integrative literature review to identify and cluster 69 key terms that frequently co-occur in the multidisciplinary study of AI. We then build on the results of this bibliometric analysis to propose three new multifaceted concepts for understanding and analysing AI-based systems for government (AI-GOV) in a more unified way: (1) operational fitness, (2) epistemic alignment, and (3) normative divergence. Finally, we put these concepts to work by using them as dimensions in a conceptual typology of AI-GOV and connecting each with emerging AI technical measurement standards to encourage operationalization, foster cross-disciplinary dialogue, and stimulate debate among those aiming to rethink government with AI.

研究动机与目标

• 为解决政府人工智能研究文献的碎片化问题，通过统一社会科学与技术人工智能领域的见解。
• 通过文献计量分析，识别并聚类多学科AI-GOV研究中频繁共现的69个术语。
• 提出三个新的多维概念——运行适应性、认识论一致性与规范分歧——以分析AI-GOV系统。
• 将这些概念与新兴技术标准相联系，实现可操作化并促进跨学科对话。
• 激发讨论，指导人工智能在公共部门机构中的负责任整合。

提出的方法

• 开展综合文献综述，从多学科AI-GOV研究中提取并聚类69个关键术语。
• 进行文献计量分析，识别术语之间的概念聚类与关系。
• 提出三个新的概念维度：运行适应性（系统可靠性）、认识论一致性（知识质量）与规范分歧（与社会规范的价值一致性）。
• 基于这三个维度，构建AI-GOV系统的概念分类体系，以对应用进行分类。
• 将每个维度与相关新兴技术标准（如ISO/IEC和NIST标准）对应，以实现测量与评估。
• 利用该框架促进公共行政学者、人工智能研究人员与政策制定者之间的对话。

实验结果

研究问题

• RQ1 如何统一社会科学与技术人工智能领域中分散的概念框架，以更好地理解政府中的人工智能？
• RQ2 哪些核心概念维度能够捕捉AI-GOV系统的多维特性？
• RQ3 如何系统地分析和测量AI-GOV在运行、认识论与规范层面的特征？
• RQ4 新兴技术标准在哪些方面可与社会与机构对政府中人工智能的期望相契合？
• RQ5 如何通过共享的概念框架促进公共部门人工智能领域的跨学科合作与政策创新？

主要发现

• 文献计量分析识别出69个在AI-GOV文献中频繁共现的关键术语，揭示了不同学科间明显的概念聚类。
• 作者成功引入了三个新的多维概念——运行适应性、认识论一致性与规范分歧——准确捕捉了AI-GOV系统的关键维度。
• 基于这三个维度的概念分类体系，实现了对政府中人工智能应用的系统性分类与分析。
• 该框架将每个概念维度与新兴技术标准（如ISO/IEC和NIST标准）相连接，实现了可操作化与测量。
• 通过该框架整合社会科学与技术视角，促进了更深层次的跨学科对话与共同理解。
• 本研究为重新思考以人工智能为核心的政府治理奠定了基础，实现了技术能力与社会价值及机构规范的对齐。