[논문 리뷰] A Review of Explainable Artificial Intelligence in Manufacturing

Georgios Sofianidis, Jože M. Rožanec외 2명|arXiv (Cornell University)|2021. 07. 05.

Explainable Artificial Intelligence (XAI)참고 문헌 48인용 수 4

한 줄 요약

이 논문은 제조 분야에서 설명 가능한 인공지능(XAI) 기법을 검토하며, AI 기반 산업 시스템의 투명성과 신뢰도를 향상시키기 위해 모델 독립형 및 모델 특정형 방법의 분류 체계를 제안한다. 논문은 정성적 및 정량적 지표를 통해 XAI를 평가하고, 품질 검사, 비용 추정, 사이버보안 분야에서의 응용 사례를 제시하며, 인더스트리 5.0에서 인간-AI 협업을 가능하게 하는 사용자 중심의 설명이 핵심적인 역할을 한다는 점을 강조한다.

ABSTRACT

The implementation of Artificial Intelligence (AI) systems in the manufacturing domain enables higher production efficiency, outstanding performance, and safer operations, leveraging powerful tools such as deep learning and reinforcement learning techniques. Despite the high accuracy of these models, they are mostly considered black boxes: they are unintelligible to the human. Opaqueness affects trust in the system, a factor that is critical in the context of decision-making. We present an overview of Explainable Artificial Intelligence (XAI) techniques as a means of boosting the transparency of models. We analyze different metrics to evaluate these techniques and describe several application scenarios in the manufacturing domain.

연구 동기 및 목표

• 제조 분야의 AI 모델 투명성 부족이 사용자 신뢰도와 의사결정 신뢰성에 악영향을 미치는 문제를 해결하기 위해.
• 설명 가능성 원천, 범위, 모델 의존성 기반으로 XAI 기법을 분류하고 분석하기 위해.
• 산업 적용 가능성을 평가하기 위해 정성적 및 정량적 지표를 모두 활용해 XAI 방법을 평가하기 위해.
• 품질 검사, 생산 계획, 비용 추정, 사이버보안 분야에서 XAI의 실용적 응용 사례를 제시하기 위해.
• 사용자 중심의 XAI 통합을 주장하여 설명이 도메인 전문가 및 운영자들의 요구와 일치하도록 보장하기 위해.

제안 방법

• 설명 가능성 원천(내재적 대 후행적), 범위(전역 대 국소), 모델 의존성(모델 독립형 대 모델 특정형)을 기반으로 삼차원 XAI 분류 체계를 제안한다.
• 이미지 기반 작업에서의 시각적 설명을 위해 클래스 활성화 맵(CAM), 기울기 기반 샐류이 맵, LRP, 통합 기울기, 가속화된 역전파와 같은 XAI 기법을 검토하고 분류한다.
• 사용자 프로필, 목적, 초점(국소/전역)을 통합하여 다양한 이해관계자에게 맞춤형 설명을 제공하는 맥락 인식 설명 프레임워크를 도입한다.
• 표본 및 이미지 데이터에서 특성 중요도 및 국소 설명 생성을 위해 LIME과 SHAP와 같은 모델 독립형 방법을 적용한다.
• 사용자 검증 및 설명의 반복적 개선을 가능하게 하기 위해 XAI 응용에 피드백 메커니즘을 통합한다.
• 3D 기울기 가중 CAM을 활용해 CAD 모델에서 비용에 영향을 주는 기계 가공 특징을 시각화함으로써, 설계 최적화를 위한 실행 가능한 통찰을 제공하는 해석 가능한 제조 비용 추정을 실현한다.

실험 결과

연구 질문

• RQ1 제조 AI 시스템의 맥락에서 XAI 기법은 어떻게 체계적으로 분류되고 평가될 수 있는가?
• RQ2 이미지 기반 품질 검사 및 결함 탐지에서 투명성을 향상시키는 데 가장 효과적인 XAI 방법은 무엇인가?
• RQ3 다양한 제조 직무에서 의사결정을 지원하는 데 시각적, 텍스트적, 특성 기반 설명 유형은 각각 어떻게 기여하는가?
• RQ4 XAI는 데이터 오염 및 모델 취약성 탐지에 있어 산업용 AI의 신뢰도와 보안을 어떻게 향상시킬 수 있는가?
• RQ5 XAI는 실세계 제조 워크플로우에 어떻게 통합되어 인더스트리 5.0에서 인간-AI 협업을 지원할 수 있는가?

주요 결과

• LRP와 가속화된 역전파와 같은 XAI 기법은 결함 분류 작업에서 관련 이미지 영역을 효과적으로 강조한 잘 분포된 히트맵을 생성했다.
• 블랙박스 모델 예측을 의사결정 트리로 변환함으로써 인간이 읽을 수 있는 텍스트 기반 설명을 생성하여 도메인 전문가에게 가장 높은 수준의 해석 가능성을 달성했다.
• 3D 기울기 가중 CAM은 제조 비용에 영향을 주는 기계 가공 특징을 성공적으로 시각화하여 설계 최적화를 위한 실행 가능한 통찰을 제공했다.
• CAM 및 대비 기반 기울기 기반 샐류이 맵과 같은 XAI 기법은 초음파 용접 품질 평가에서 모델의 해석 가능성을 향상시켜 진짜 양성과 가짜 양성 간의 구분을 가능케 했다.
• 사이버보안 분야에서 XAI를 통해 왜곡된 데이터 샘플과 모델 취약성을 식별할 수 있었으며, 스마트 제조 시스템에서의 데이터 오염 조기 탐지에 기여했다.
• 현장 기반 평가로서 국소 설명에 대한 사용자 피드백을 통한 응용을 통해 상호작용적이고 맥락 인식 기반의 설명이 사용자 신뢰도와 시스템 사용성 향상에 기여한다는 점이 입증되었다.