[论文解读] Key Considerations for the Responsible Development and Fielding of Artificial Intelligence

Eric Horvitz, Jessica L Young+2 more|arXiv (Cornell University)|Aug 19, 2021

Ethics and Social Impacts of AI被引用 5

一句话总结

本文概述了负责任地开发和部署人工智能所需的关键考量，重点关注伦理、技术和政策挑战。该报告专为美国国家安全部门制定，但具有广泛适用性，建议通过结构化实践和更新的政策，优先考虑透明度、问责制、安全性和公平性，以确保在高风险领域中实现可信的人工智能。

ABSTRACT

We review key considerations, practices, and areas for future work aimed at the responsible development and fielding of AI technologies. We describe critical challenges and make recommendations on topics that should be given priority consideration, practices that should be implemented, and policies that should be defined or updated to reflect developments with capabilities and uses of AI technologies. The Key Considerations were developed with a lens for adoption by U.S. government departments and agencies critical to national security. However, they are relevant more generally for the design, construction, and use of AI systems.

研究动机与目标

• 解决人工智能开发和部署中的伦理、技术和治理挑战，特别是在美国国家安全部门背景下的挑战。
• 识别与人工智能系统相关的重大风险，包括偏见、缺乏透明度以及在高风险应用中的意外后果。
• 为组织提供切实可行的建议，以在整个系统生命周期中实施负责任的人工智能实践。
• 指导政策制定者更新法规和标准，以跟上人工智能能力的快速进步。
• 通过结构化框架和监督机制，促进人工智能系统的可信度、问责制和公众信心。

提出的方法

• 作者对人工智能风险和最佳实践进行了全面审查，整合了计算机科学、政策和国家安全部门的专业知识。
• 他们制定了一套围绕安全、可靠性、透明度和公平性等原则组织的12项关键考量框架。
• 该框架强调在人工智能系统的设计和运行中，主动进行风险评估、持续监控和人工监督。
• 建议包括采用标准化评估协议、确保数据质量，以及在人工智能决策中实现可审计性和可解释性。
• 该方法整合了技术专家、伦理学家和政府利益相关者的跨学科意见，以确保建议具有实际操作性和政策相关性。
• 报告主张通过组织政策、培训和监督结构，将负责任的人工智能实践制度化。

实验结果

研究问题

• RQ1 在国家安全部门等高风险环境中的负责任人工智能开发和部署，应以哪些核心原则为指导？
• RQ2 组织如何确保人工智能系统在其整个生命周期中具备透明度、可靠性和问责制？
• RQ3 为减轻偏见、意外行为和系统故障等风险，需要哪些技术和治理实践？
• RQ4 现有政策和法规应如何更新，以反映人工智能能力的演变及其社会影响？
• RQ5 在人工智能决策过程中，人类监督和干预应发挥何种作用，以维护问责制？

主要发现

• 报告识别出12项负责任人工智能的关键考量，涵盖安全、稳健性、透明度和公平性等领域。
• 报告强调，负责任的人工智能不仅需要技术保障，还需要组织文化、培训和监督机制的配合。
• 该框架建议将可解释性和可审计性作为人工智能系统的核心要求，以支持问责制。
• 作者发现，主动进行风险评估和持续监控对于检测和缓解意外行为至关重要。
• 报告强调了使用多样化和代表性数据的重要性，以减少偏见并提升系统公平性。
• 报告得出结论：负责任的人工智能部署需要在技术、伦理和政策领域协同行动，以确保公众信任和国家安全。