[논문 리뷰] Trustworthy, responsible, ethical AI in manufacturing and supply chains: synthesis and emerging research questions

Alexandra Brintrup, George Baryannis외 4명|arXiv (Cornell University)|2023. 05. 19.

Ethics and Social Impacts of AI인용 수 6

한 줄 요약

이 논문은 제조 및 공급망 분야의 신뢰할 수 있고 책임감 있으며 윤리적인 AI 원칙을 융합하여 기계 학습 라이프사이클 프레임워크를 적응시켜 각 단계에서의 신뢰성 위험을 식별한다. 향후 연구를 이끄는 실천 가능한 연구 질문을 제안함으로써 산업적 맥락에서 AI 도입이 경제적 및 사회적 이점을 안전하고 책임감 있게 제공할 수 있도록 한다.

ABSTRACT

While the increased use of AI in the manufacturing sector has been widely noted, there is little understanding on the risks that it may raise in a manufacturing organisation. Although various high level frameworks and definitions have been proposed to consolidate potential risks, practitioners struggle with understanding and implementing them. This lack of understanding exposes manufacturing to a multitude of risks, including the organisation, its workers, as well as suppliers and clients. In this paper, we explore and interpret the applicability of responsible, ethical, and trustworthy AI within the context of manufacturing. We then use a broadened adaptation of a machine learning lifecycle to discuss, through the use of illustrative examples, how each step may result in a given AI trustworthiness concern. We additionally propose a number of research questions to the manufacturing research community, in order to help guide future research so that the economic and societal benefits envisaged by AI in manufacturing are delivered safely and responsibly.

연구 동기 및 목표

• 제조 및 공급망 시스템 내 AI 위험에 대한 실무적 이해 부족을 해소하기 위해.
• 고수준의 윤리적 AI 프레임워크를 산업 현장의 실무자들이 활용할 수 있는 통찰으로 번역하기 위해.
• 제조 맥락에서 AI 라이프사이클의 각 단계에서 발생하는 구체적인 신뢰성 문제를 특정화하기 위해.
• 제조 AI 공동체를 위한 구체적이고 맥락에 맞는 연구 질문을 제안하여 향후 연구를 이끌기 위해.
• 제조 분야에서 AI 기반의 이점이 조직, 근로자, 공급업체 및 고객 전반에서 안전하고 윤리적이며 책임감 있게 실현되도록 보장하기 위해.

제안 방법

• 제조 분야의 AI 개발 및 배포 단계를 맵핑하기 위해 확장된 기계 학습 라이프사이클 모델을 적응시킨다.
• 라이프사이클 프레임워크를 적용하여 각 단계에서 발생할 수 있는 신뢰성 문제(예: 편향, 투명성, 책임성 등)를 분석한다.
• 데이터 수집, 모델 훈련, 배포 및 모니터링 단계에서 위험이 어떻게 발생하는지 보여주는 산업 사례를 활용한다.
• AI 윤리, 공급망 관리 및 산업 시스템의 통찰을 융합하여 윤리적 과제를 맥락화한다.
• 기술적 AI 개발을 조직적, 사회적, 규제적 기대와 일치시키는 체계적인 접근법을 제안한다.
• 실제 AI 구현에서 반복되는 격차와 과제에서 유래한 연구 질문을 도출한다.

실험 결과

연구 질문

• RQ1 제조 및 공급망 시스템에서 종단 간 AI 라이프사이클 전반에 걸쳐 윤리적 AI 원칙을 어떻게 구현할 수 있는가?
• RQ2 산업 환경에서 데이터 확보, 모델 훈련 및 배포 단계에서 어떤 구체적인 신뢰성 위험이 발생하는가?
• RQ3 조직은 복잡한 공급망 전반에서 AI 기반 의사결정의 공정성, 투명성 및 책임성을 어떻게 확보할 수 있는가?
• RQ4 인간이 개입하는 메커니즘은 역동적인 제조 환경에서 윤리적인 AI 성능을 유지하는 데 어떤 역할을 하는가?
• RQ5 다학제적 협업은 산업적 맥락에서 AI 시스템의 설계 및 거버넌스를 어떻게 향상시킬 수 있는가?

주요 결과

• 기계 학습 라이프사이클을 제조 분야에 적응시킴으로써 각 단계에서 특징적인 신뢰성 위험이 드러나며, 예를 들어 조달 단계에서의 데이터 편향이나 생산 스케줄링에서의 모델 투명성 부족이 포함된다.
• 실무자들은 맥락에 맞는 지침이 부족하여 추상적인 윤리적 AI 프레임워크를 구현하는 데 상당한 과제에 직면한다.
• 윤리적 AI 위험은 기술적 구성 요소에 국한되지 않고 조직 구조, 공급업체 관계 및 노동력 역학성에서 유래된다.
• 논문은 AI 윤리와 산업 운영 및 공급망 복잡성 간의 격차를 메우는 도메인 특화 연구의 필수성을 규명한다.
• 제안된 연구 질문들은 윤리적인 AI 배치를 보장하기 위해 다학제적 협업의 중요성을 부각시킨다.
• 연구는 특정 연구가 이루어지지 않을 경우, 제조 분야에서 AI가 약속하는 경제적 및 사회적 이점이 관리되지 않은 윤리적 및 운영적 위험으로 인해 손상될 수 있음을 강조한다.