[论文解读] Artificial Intelligence Governance and Ethics: Global Perspectives

Angela Daly, Thilo Hagendorff+6 more|arXiv (Cornell University)|Jun 28, 2019

Ethics and Social Impacts of AI被引用 5

一句话总结

本文研究了澳大利亚、中国、欧洲、印度和美国的全球人工智能治理与伦理框架，分析了不同国家和部门的举措。通过整合国际视角，识别出共同的伦理挑战与治理策略，对刑事司法、医疗保健和国防等高风险领域中的政策制定与实施进行了比较分析。

ABSTRACT

Artificial intelligence (AI) is a technology which is increasingly being utilised in society and the economy worldwide, and its implementation is planned to become more prevalent in coming years. AI is increasingly being embedded in our lives, supplementing our pervasive use of digital technologies. But this is being accompanied by disquiet over problematic and dangerous implementations of AI, or indeed, even AI itself deciding to do dangerous and problematic actions, especially in fields such as the military, medicine and criminal justice. These developments have led to concerns about whether and how AI systems adhere, and will adhere to ethical standards. These concerns have stimulated a global conversation on AI ethics, and have resulted in various actors from different countries and sectors issuing ethics and governance initiatives and guidelines for AI. Such developments form the basis for our research in this report, combining our international and interdisciplinary expertise to give an insight into what is happening in Australia, China, Europe, India and the US.

研究动机与目标

• 分析澳大利亚、中国、欧洲、印度和美国五个关键地区人工智能伦理与治理框架的发展与实施情况。
• 识别在刑事司法、医疗保健和军事系统等高风险人工智能应用中普遍存在的伦理关切以及不同的监管方法。
• 评估多利益相关方合作（包括政府、产业界和公民社会）在塑造人工智能治理方面的作用。
• 提供跨学科、比较性的分析，以促进全球政策一致性与伦理人工智能的部署。
• 突出当前治理模式中的差距与张力，特别是在人工智能系统中的问责制、透明度与公平性方面。

提出的方法

• 对五个国家（澳大利亚、中国、欧洲、印度和美国）的国家与区域人工智能伦理与治理举措进行比较分析。
• 收集并审查政府、产业联盟和公民社会组织发布的政策文件、指导方针与监管框架。
• 运用法律、计算机科学与社会科学的跨学科专业知识，解读并 contextualize（语境化）伦理原则与治理机制。
• 对不同区域框架中的关键伦理原则（例如公平、透明、问责）进行分类与映射。
• 分析人工智能在刑事司法、医疗与国防等敏感领域部署的案例研究，以评估伦理风险与治理应对措施。
• 将研究发现综合为跨司法管辖区的治理成熟度、伦理优先事项与实施挑战的评估。

实验结果

研究问题

• RQ1 澳大利亚、中国、欧洲、印度和美国的人工智能伦理与治理框架有何不同？
• RQ2 国家与区域人工智能治理举措中优先考虑哪些伦理原则，以及这些原则如何被具体实施？
• RQ3 在刑事司法与医疗保健等高风险领域实施伦理人工智能的主要挑战是什么？
• RQ4 多利益相关方合作如何影响人工智能治理标准的制定与执行？
• RQ5 不同的监管方法对全球人工智能治理与互操作性有何影响？

主要发现

• 各地区在伦理原则的优先级与表述上存在显著差异，欧洲强调人权与基本权利，而美国与中国则更侧重创新与国家竞争力。
• 中国的AI治理框架由中央协调，与国家目标保持一致，体现了自上而下的技术发展与控制模式。
• 欧洲的人工智能治理强调法律合规与基本权利，特别是通过欧盟的《人工智能法案》及其基于风险的分类体系。
• 印度与澳大利亚制定了包含强烈伦理成分的国家人工智能战略，但实施仍有限且支离破碎。
• 尽管出台了大量指导文件，但大多数司法管辖区缺乏可执行的标准或一致的监测机制。
• 高风险应用如预测性警务与自动化医疗诊断伴随着更高的伦理风险，包括偏见与透明度不足，但监督机制仍发展不足。