[论文解读] Trustworthy, responsible, ethical AI in manufacturing and supply chains: synthesis and emerging research questions

Alexandra Brintrup, George Baryannis+4 more|arXiv (Cornell University)|May 19, 2023

Ethics and Social Impacts of AI被引用 6

一句话总结

本文通过将机器学习生命周期框架适配至制造与供应链场景，整合可信、负责任及伦理AI的原则，识别各阶段的可信度风险。论文提出了可操作的研究问题，以指导未来研究，确保工业场景中AI部署能安全、负责任地实现经济与社会收益。

ABSTRACT

While the increased use of AI in the manufacturing sector has been widely noted, there is little understanding on the risks that it may raise in a manufacturing organisation. Although various high level frameworks and definitions have been proposed to consolidate potential risks, practitioners struggle with understanding and implementing them. This lack of understanding exposes manufacturing to a multitude of risks, including the organisation, its workers, as well as suppliers and clients. In this paper, we explore and interpret the applicability of responsible, ethical, and trustworthy AI within the context of manufacturing. We then use a broadened adaptation of a machine learning lifecycle to discuss, through the use of illustrative examples, how each step may result in a given AI trustworthiness concern. We additionally propose a number of research questions to the manufacturing research community, in order to help guide future research so that the economic and societal benefits envisaged by AI in manufacturing are delivered safely and responsibly.

研究动机与目标

• 填补制造业与供应链系统中AI风险实际理解的空白。
• 将高层次的伦理AI框架转化为工业场景中实践者的可操作洞见。
• 识别在制造业AI生命周期各阶段出现的具体可信度关切。
• 通过提出具体、情境相关的研究问题，引导制造业AI社区的未来研究。
• 确保制造业中由AI驱动的益处能安全、伦理且负责任地在组织、员工、供应商和客户间实现。

提出的方法

• 将扩展的机器学习生命周期模型适配至制造业，以映射AI开发与部署阶段。
• 应用生命周期框架分析各阶段可能出现的可信度问题，如偏见、透明度与问责制。
• 使用行业实例说明风险如何在数据收集、模型训练、部署与监控过程中显现。
• 整合AI伦理、供应链管理与工业系统领域的洞见，以情境化伦理挑战。
• 提出一种结构化方法，将技术AI开发与组织、社会及监管期望对齐。
• 从现实AI实施中识别出的差距与反复出现的挑战中推导出研究问题。

实验结果

研究问题

• RQ1 如何在制造业与供应链系统中端到端的AI生命周期内实现伦理AI原则？
• RQ2 在工业环境中，数据获取、模型训练与部署阶段会浮现哪些具体的可信度风险？
• RQ3 组织如何确保在复杂供应链中，AI驱动决策的公平性、透明度与问责制？
• RQ4 人在回路机制在动态制造环境中维持伦理AI性能方面发挥什么作用？
• RQ5 跨学科协作如何提升工业场景中AI系统的设计与治理？

主要发现

• 将机器学习生命周期适配至制造业，揭示了各阶段独特的可信度风险，例如采购中的数据偏见或生产排程中的模型不透明性。
• 实践者在实施抽象的伦理AI框架时面临重大挑战，主要因缺乏情境特定的指导。
• 伦理AI风险不仅源于技术组件，也源于组织结构、供应商关系与劳动力动态。
• 本文识别出对领域特定研究的迫切需求，以弥合AI伦理与工业运营及供应链复杂性之间的鸿沟。
• 所提出的研究所强调，跨学科协作对于确保现实制造业生态系统中负责任的AI部署至关重要。
• 本研究强调，若缺乏针对性研究，AI在制造业中承诺的经济与社会收益可能因未管理的伦理与运营风险而受挫。