[论文解读] Ethically Aligned Design of Autonomous Systems: Industry viewpoint and an empirical study

Ville Vakkuri, Kai‐Kristian Kemell+3 more|Jyväskylä University Digital Archive (University of Jyväskylä)|Jun 19, 2019

Ethics and Social Impacts of AI参考文献 18被引用 23

一句话总结

本文通过五个开发自主系统的公司的多案例研究，探讨了理论人工智能伦理研究与现实工业实践之间的差距。研究提出了可操作的策略，以实现伦理设计与工业实施的一致性，揭示出尽管伦理问题已获认可，但其系统性整合在各组织中仍不一致。

ABSTRACT

Progress in the field of artificial intelligence has been accelerating rapidly in the past two decades. Various autonomous systems from purely digital ones to autonomous vehicles are being developed and deployed out on the field. As these systems exert a growing impact on society, ethics in relation to artificial intelligence and autonomous systems have recently seen growing attention among the academia. However, the current literature on the topic has focused almost exclusively on theory and more specifically on conceptualization in the area. To widen the body of knowledge in the area, we conduct an empirical study on the current state of practice in artificial intelligence ethics. We do so by means of a multiple case study of five case companies, the results of which indicate a gap between research and practice in the area. Based on our findings we propose ways to tackle the gap.

研究动机与目标

• 考察行业从业者在自主系统设计中如何实施伦理原则。
• 识别学术人工智能伦理框架与实际工业实践之间的脱节。
• 理解组织在实施伦理AI过程中面临的挑战与局限。
• 提出实用且与工业相关的策略，以弥合人工智能开发中的伦理与实践差距。

提出的方法

• 在五个开发自主系统的工业组织中开展多案例研究。
• 通过访谈和文件分析收集定性数据，重点关注伦理整合情况。
• 将伦理考量映射到实际开发流程和决策框架中。
• 识别伦理在产品设计和部署中如何被处理（或被忽视）的模式。
• 使用主题分析提取伦理实施中的重复挑战与解决方案。
• 基于实证发现，提出一个将伦理设计与工业工作流程对齐的框架。

实验结果

研究问题

• RQ1 行业组织目前如何将伦理考量整合到自主系统的设计中？
• RQ2 哪些主要障碍阻碍了工业环境中人工智能伦理的系统性实施？
• RQ3 学术理论中的伦理框架在多大程度上与现实世界开发实践相一致？
• RQ4 哪些实用策略可以弥合人工智能伦理研究与工业应用之间的差距？
• RQ5 组织结构和流程在多大程度上影响了自主系统开发中对伦理的处理？

主要发现

• 理论人工智能伦理框架与其实务实施之间存在显著差距。
• 伦理考量常常被视为事后补充，而非整合到核心开发流程中。
• 仅少数公司拥有正式的伦理审查流程或专职伦理岗位。
• 伦理决策通常为临时性且依赖具体情境，缺乏标准化程序。
• 组织指出，缺乏明确指导方针、监管不明确以及业务优先事项冲突是主要障碍。
• 尽管意识到伦理风险，但很少有公司系统性地记录或审计伦理设计选择。