[论文解读] A multilevel framework for AI governance

Hyesun Choung, Prabu David+1 more|arXiv (Cornell University)|Jul 4, 2023

Ethics and Social Impacts of AISocial Sciences被引用 3

一句话总结

本文提出了一种多层级人工智能治理框架，将政府、企业与公民作为相互依存的利益相关方，通过信任维度——能力、诚信与利他——将伦理原则转化为可操作的政策与实践。该框架提供了一套结构化且实用的方法，以确保人工智能发展与人类价值观保持一致，并提升用户信任度与政策有效性。

ABSTRACT

To realize the potential benefits and mitigate potential risks of AI, it is necessary to develop a framework of governance that conforms to ethics and fundamental human values. Although several organizations have issued guidelines and ethical frameworks for trustworthy AI, without a mediating governance structure, these ethical principles will not translate into practice. In this paper, we propose a multilevel governance approach that involves three groups of interdependent stakeholders: governments, corporations, and citizens. We examine their interrelationships through dimensions of trust, such as competence, integrity, and benevolence. The levels of governance combined with the dimensions of trust in AI provide practical insights that can be used to further enhance user experiences and inform public policy related to AI.

研究动机与目标

• 通过设计一种结构化的治理模型，弥合伦理人工智能原则与其实现之间的差距。
• 识别政府、企业与公民在维持可信人工智能系统中相互依存的角色。
• 通过信任维度——能力、诚信与利他——将抽象的伦理原则具体化。
• 为人工智能系统中的公共政策与用户体验设计提供可操作的见解。
• 弥合人工智能伦理准则与实际治理机制之间的鸿沟。

提出的方法

• 该框架在三个治理层级上构建：国家级（政府）、组织级（企业）与社会级（公民），每一层级具有明确的责任分工。
• 信任通过三个维度实现：能力（技术与制度能力）、诚信（伦理一致性）与利他（愿意为用户利益而行动）。
• 通过反馈回路与共同责任机制，对利益相关方之间的相互依存关系进行建模。
• 该框架将伦理原则与制度设计相结合，强调透明度、问责制与参与式治理。
• 借鉴治理学、伦理学与社会科学的跨学科理论，以确保实际适用性。
• 通过概念分析验证该模型，并与现有数字治理政策与伦理框架保持一致。

实验结果

研究问题

• RQ1 如何能有效将伦理人工智能原则转化为可操作的治理机制？
• RQ2 政府、企业与公民在维持可信人工智能系统中分别扮演什么角色？
• RQ3 信任的维度——能力、诚信与利他——如何促进或阻碍人工智能治理？
• RQ4 利益相关方之间的相互依存关系在哪些方面能改善人工智能治理成果？
• RQ5 该框架如何为公共政策提供建议，并增强用户对人工智能系统的信任？

主要发现

• 多层级框架使抽象的伦理原则能够转化为各利益相关方的具体治理责任。
• 信任维度——能力、诚信与利他——作为可衡量且可操作的标准，用于评估人工智能治理的有效性。
• 政府、企业与公民之间的相互依存关系增强了问责制，并降低了人工智能部署中伦理偏差的风险。
• 该框架提供了一个可扩展的模型，适用于全球人工智能治理中多样的监管与文化背景。
• 信任维度的整合为评估与改进人工智能系统设计及政策实施提供了实用的视角。
• 该框架被定位为未来数字治理政策发展与制度设计的基石工具。