[论文解读] A Framework for Ethical AI at the United Nations

Lambert Hogenhout|arXiv (Cornell University)|Apr 9, 2021

Ethics and Social Impacts of AI被引用 13

一句话总结

本文为联合国提出了一套全面的伦理人工智能框架，整合了伦理原则、数据治理、架构标准、评估工具及人员教育，以确保人工智能符合人权和联合国价值观。该框架倡导一种结构化、多层级的方法，以减轻风险，并指导联合国各机构负责任地部署人工智能。

ABSTRACT

This paper aims to provide an overview of the ethical concerns in artificial intelligence (AI) and the framework that is needed to mitigate those risks, and to suggest a practical path to ensure the development and use of AI at the United Nations (UN) aligns with our ethical values. The overview discusses how AI is an increasingly powerful tool with potential for good, albeit one with a high risk of negative side-effects that go against fundamental human rights and UN values. It explains the need for ethical principles for AI aligned with principles for data governance, as data and AI are tightly interwoven. It explores different ethical frameworks that exist and tools such as assessment lists. It recommends that the UN develop a framework consisting of ethical principles, architectural standards, assessment methods, tools and methodologies, and a policy to govern the implementation and adherence to this framework, accompanied by an education program for staff.

研究动机与目标

• 通过建立结构化的治理方法，应对联合国内部人工智能使用日益增长的伦理风险。
• 通过整合伦理与数据治理框架，使人工智能的开发与部署与基本人权和联合国原则保持一致。
• 为联合国在不同业务环境中实施伦理人工智能提供切实可行、可操作的路径。
• 通过嵌入伦理审查与评估机制，减少人工智能系统带来的非预期伤害。
• 通过人员教育和标准化方法，促进机构能力建设，支持可持续的伦理人工智能采用。

提出的方法

• 开发一个整合伦理原则与数据治理标准的多组件框架。
• 设计评估工具和检查清单，以评估人工智能系统是否符合伦理合规要求。
• 建立架构标准，将伦理考量嵌入人工智能系统设计之中。
• 建立政策与监督机制，确保一致实施与遵守。
• 整合针对联合国工作人员的教育计划，以提升机构意识与能力。
• 借鉴现有伦理框架，并将其适应联合国多边、政府间组织的背景。

实验结果

研究问题

• RQ1 联合国如何系统性地将其伦理原则嵌入人工智能项目？
• RQ2 为确保在不同联合国机构间实现伦理人工智能治理，需要哪些结构性组件？
• RQ3 如何使数据治理与人工智能伦理保持一致，以防止滥用并保护人权？
• RQ4 哪些评估工具和方法论能有效评估联合国行动中人工智能系统的伦理合理性？
• RQ5 人员教育与机构能力建设如何支持伦理人工智能的可持续采用？

主要发现

• 联合国需要一个整体性框架，整合伦理原则、技术标准、评估工具和政策机制，以负责任地治理人工智能。
• 伦理人工智能不能与数据治理分离，因为两者在塑造可信赖的人工智能系统方面是相互依存的。
• 现有的伦理框架和评估工具可经调整后整合为联合国背景下的统一系统。
• 专门的教育计划对于提升工作人员意识并确保伦理标准的一致应用至关重要。
• 所提出的框架可实现风险的主动缓解，并加强与人权及联合国价值观的一致性。
• 该框架的实施有助于提升联合国主导的人工智能倡议的透明度、问责制和公众信任。