[论文解读] Toward Effective AI Governance: A Review of Principles

Danilo Monteiro Ribeiro, Thayssa A. da Rocha+5 more|ArXiv.org|May 29, 2025

Ethics and Social Impacts of AI被引用 3

一句话总结

本论文对2020–2024年的二手研究进行快速三级综述，识别哪些AI治理框架和原则被频繁引用，并强调在可操作的机制和利益相关者纳入方面的差距。

ABSTRACT

Artificial Intelligence (AI) governance is the practice of establishing frameworks, policies, and procedures to ensure the responsible, ethical, and safe development and deployment of AI systems. Although AI governance is a core pillar of Responsible AI, current literature still lacks synthesis across such governance frameworks and practices. Objective: To identify which frameworks, principles, mechanisms, and stakeholder roles are emphasized in secondary literature on AI governance. Method: We conducted a rapid tertiary review of nine peer-reviewed secondary studies from IEEE and ACM (20202024), using structured inclusion criteria and thematic semantic synthesis. Results: The most cited frameworks include the EU AI Act and NIST RMF; transparency and accountability are the most common principles. Few reviews detail actionable governance mechanisms or stakeholder strategies. Conclusion: The review consolidates key directions in AI governance and highlights gaps in empirical validation and inclusivity. Findings inform both academic inquiry and practical adoption in organizations.

研究动机与目标

• 在2020–2024年二手文献中综合AI治理的概念化方式。
• 识别在综述中被频繁引用的治理框架（例如EU AI Act、NIST RMF）。
• 映射经常强调的治理原则（例如透明度、问责、隐私、可解释性）。
• 考察用于在实践中实施负责任AI的组织结构与机制。

提出的方法

• 对IEEE和ACM在2020–2024年发表的九项同行评审的二手研究进行快速三级综述。
• 纳入标准：研究负责的AI治理，给出实际建议，英文，同行评审，全文可获取。
• 采用主题-语义综合，将数据提取到电子表格，并使用六大支柱编码体系（公平性、透明度、隐私与安全、可持续性、问责、可解释性）。
• 综合采用描述性映射与解释性分析相结合的方法，以识别可操作的治理机制。
• 局限性包括仅限于两个数据库和五年窗口，以及研究质量可能存在差异。

实验结果

研究问题

• RQ1 RQ1：在二手综述中最常引用的AI治理框架有哪些？
• RQ2 RQ2：在二手研究中最强调的治理原则有哪些？
• RQ3 RQ3：被认定为良好实践的组织结构和内部治理机制有哪些？
• RQ4 RQ4：利益相关方（监管者、开发者、用户、公民）在治理讨论中是如何参与和代表的？

主要发现

• 以高层次监管框架为主导（如EU AI Act、NIST RMF），但在可操作的治理机制和利益相关者参与细节方面存在差距。
• 透明度和问责是跨研究最常强调的治理原则。
• 呼吁进行实证验证并建立更具包容性的治理模型，纳入多样化的利益相关者观点，特别是被低代表群体的观点。
• 内部治理机制如伦理委员会、算法审计和成熟度模型被讨论，但在实践中并未得到一致实施。
• 若干框架与目录（如 Responsible AI Pattern Catalogue、Responsible AI Metrics Catalogue）被突出作为组织的可操作治理资源。