[论文解读] AI Ethics Principles in Practice: Perspectives of Designers and Developers

Conrad Sanderson, David C. Douglas+8 more|arXiv (Cornell University)|Dec 14, 2021

Ethics and Social Impacts of AI被引用 8

一句话总结

本研究探讨了澳大利亚国家研究机构（CSIRO）的人工智能开发者与设计师在实践中如何解读和实施高层次的人工智能伦理原则。通过半结构化访谈，作者识别出原则之间的关键张力，例如透明性与隐私、可解释性与准确性之间的矛盾，并提出针对每个原则的独立设计建议，以促进实际应用并减少负责任人工智能开发中的模糊性。

ABSTRACT

As consensus across the various published AI ethics principles is approached, a gap remains between high-level principles and practical techniques that can be readily adopted to design and develop responsible AI systems. We examine the practices and experiences of researchers and engineers from Australia's national scientific research agency (CSIRO), who are involved in designing and developing AI systems for many application areas. Semi-structured interviews were used to examine how the practices of the participants relate to and align with a set of high-level AI ethics principles proposed by the Australian Government. The principles comprise: (1) privacy protection and security, (2) reliability and safety, (3) transparency and explainability, (4) fairness, (5) contestability, (6) accountability, (7) human-centred values, (8) human, social and environmental wellbeing. Discussions on the gained insights from the interviews include various tensions and trade-offs between the principles, and provide suggestions for implementing each high-level principle. We also present suggestions aiming to enhance associated support mechanisms.

研究动机与目标

• 理解CSIRO的人工智能设计师与开发者在现实项目中如何解读和应用高层次的人工智能伦理原则。
• 识别在人工智能系统设计中实现公平性、透明性与隐私等核心原则时面临的实际挑战与张力。
• 通过为每个原则提出结构化的设计建议，弥合抽象伦理原则与可操作设计实践之间的差距。
• 通过针对工具、治理与职业标准的针对性建议，增强组织对伦理人工智能开发的支持机制。

提出的方法

• 对CSIRO内跨不同应用领域的AI研究人员与工程师进行了半结构化访谈。
• 以澳大利亚政府的八项人工智能伦理原则为框架，对访谈数据进行主题分析。
• 通过定性主题编码，识别出原则之间反复出现的张力与权衡（例如，可解释性与隐私、可靠性与公平性之间的权衡）。
• 提出“设计建议”——针对具体原则的实用指导——将密切相关但易混淆的概念（如透明性与可解释性）分离开来，以提升实施的清晰度。
• 分析开发者的理解与实践，以制定关于组织支持、工具开发与治理框架的建议。
• 整合现有文献的见解，以完善并 contextualize（语境化）伦理人工智能实现的设计建议。

实验结果

研究问题

• RQ1 CSIRO的人工智能开发者与设计师在现实系统开发中如何解读和应用八项高层次人工智能伦理原则？
• RQ2 在人工智能系统设计与实施过程中，哪些实际张力与权衡在相互竞争的伦理原则之间浮现？
• RQ3 如何将高层次的伦理原则转化为可操作、开发者友好的指导，以促进负责任的人工智能开发？
• RQ4 除了抽象框架外，需要哪些组织与技术支持机制，以有效实施人工智能伦理原则？
• RQ5 开发者在多大程度上混淆或混淆了透明性与可解释性等不同概念，以及如何在设计实践中解决这一问题？

主要发现

• 开发者经常将透明性与可解释性混淆，导致透明性作为独立设计需求被弱化。
• 隐私与安全常被视为单一原则，但开发者在实践中会加以区分：安全侧重于系统级加固，隐私则聚焦于数据处理技术。
• 联邦学习与差分隐私等技术可提升隐私保护，但可能降低模型准确性，形成可测量的权衡。
• 可解释人工智能系统可能引入新的隐私风险，特别是当模型输出揭示训练数据中的敏感信息时。
• 在高风险应用场景中，可靠性与安全性常优先于公平性，若未明确处理，可能导致偏见被放大。
• 缺乏明确的、针对具体原则的设计指导，导致实施不一致，开发者往往依赖临时或事后补救方案，而非主动的伦理设计模式。