[논문 리뷰] An Interactive Explanatory AI System for Industrial Quality Control

Dennis Müller, Michael März외 2명|arXiv (Cornell University)|2022. 03. 17.

Semantic Web and Ontologies인용 수 5

한 줄 요약

이 논문은 산업용 품질 검사에 적합한 상호작용형 인간-중심 AI 시스템을 제안한다. 이 시스템은 결함 탐지에 컨volutional 신경망(CNN)을, 설명 가능한 구두 논리적 추론에 인도크티브 논리 프로그래밍(ILP)을 결합한다. 사용자 피드백을 통합하여 분류 및 근거를 반복적으로 개선함으로써 투명성, 전문가의 통제력, 결정 정확도 향상을 달성하는 신경-기호 통합 기반 시스템이다.

ABSTRACT

Machine learning based image classification algorithms, such as deep neural network approaches, will be increasingly employed in critical settings such as quality control in industry, where transparency and comprehensibility of decisions are crucial. Therefore, we aim to extend the defect detection task towards an interactive human-in-the-loop approach that allows us to integrate rich background knowledge and the inference of complex relationships going beyond traditional purely data-driven approaches. We propose an approach for an interactive support system for classifications in an industrial quality control setting that combines the advantages of both (explainable) knowledge-driven and data-driven machine learning methods, in particular inductive logic programming and convolutional neural networks, with human expertise and control. The resulting system can assist domain experts with decisions, provide transparent explanations for results, and integrate feedback from users; thus reducing workload for humans while both respecting their expertise and without removing their agency or accountability.

연구 동기 및 목표

• 순수 데이터 기반의 딥 러닝 모델이 산업용 품질 검사에서 투명성과 설명 가능성에 빈도를 보이는 문제를 해결하기 위해.
• 도메인 전문가가 결함이 있는 부품을 분류하는 데 보조를 제공하는, 인간 전문 지식과 피드백을 통합한 AI 시스템을 개발하기 위해.
• 딥 러닝의 패턴 인식 능력과 지식 기반 ILP의 해석 가능성의 장점을 융합하여 신뢰할 수 있고 설명 가능한 결함 분류를 실현하기 위해.
• 사용자 피드백 기반으로 지식을 동적으로 업데이트하는 시스템을 개발하여 책임성 유지 및 인간의 작업 부담 감소를 위해.
• 실제 산업 결함 탐지 환경에서 신경-기호 통합의 개념 증명을 제시하기 위해.

제안 방법

• 7,348장의 캐스트 금속 부품 이미지와 86개의 수작업으로 마킹된 결함 마스크를 기반으로 CNN을 훈련시켜 결함 탐지 및 국소화를 수행한다.
• 결함은 연결된 성분(스퍼피셀)으로 분할되며, 기하학적 및 공간적 성질(예: 크기, 위치)이 추출되어 기호적 표현으로 변환된다.
• 각 이미지는 Prolog 허른 절로 변환되며, 결함 성질을 술어로 표현하여 ILP 시스템(Aleph)에 입력한다.
• 다시 레이블링된 데이터(결함 있음 또는 양호)를 기반으로 ILP 시스템이 훈련되어 논리 규칙 형태의 분류 가설을 생성한다.
• 시스템은 분류 및 근거에 대해 인간이 읽을 수 있는 구두 설명을 생성하며, 이는 이미지와 마스크와 함께 사용자에게 제시된다.
• 사용자는 분류 및 개별 근거에 대해 수락, 거부 또는 수정을 피드백으로 제공하며, 이는 증강된 데이터 기반 재훈련을 통해 ILP 모델에 점진적 업데이트를 유도한다.

실험 결과

연구 질문

• RQ1 딥 러닝과 인도크티브 논리 프로그래밍(ILP)을 융합한 하이브리드 시스템이 산업 결함 탐지에서 투명성과 설명 가능성 향상에 기여할 수 있는가?
• RQ2 인간-중심 피드백을 어떻게 효과적으로 AI 시스템에 통합하여 분류 및 근거 논리의 정교함을 향상시킬 수 있는가?
• RQ3 ILP 기반의 구두 설명이 도메인 전문가가 정확하고 책임감 있는 결정을 내리는 데 얼마나 기여할 수 있는가?
• RQ4 허위 근거에 기반한 '옳은 이유로 잘못된 결과' 상황을 보완하기 위해 가짜 예제를 사용하여 잘못된 논리 규칙 학습을 방지할 수 있는가?
• RQ5 시각적 추론과 기호적 추론의 융합이 산업 AI 응용에서 의사결정 품질 향상과 사용자 신뢰를 어떻게 향상시키는가?

주요 결과

• CNN 기반의 결함 탐지와 ILP가 생성한 설명 가능한 언어적 근거를 융합한 시스템이 산업 부품의 투명하고 해석 가능한 분류를 가능하게 하였다.
• 분류 및 개별 근거에 대한 사용자 피드백이 효과적으로 캡처되어 ILP 모델 업데이트에 활용되며, 점진적 학습과 정교함 향상이 가능했다.
• 가짜 예제의 사용을 통해 잘못된 근거(예: '옳은 결과를 잘못된 이유로 도출')를 수정할 수 있었으며, 이는 잘못된 논리 규칙 학습을 방지하는 데 기여했다.
• 웹 기반 인터페이스를 통해 높은 사용성과 상호작용성을 유지하였으며, 이미지, 마스크, 분류 결과, 설명을 함께 표시하고 피드백 제어 기능을 제공하였다.
• 이러한 접근은 도메인 전문가가 결정의 주도권과 책임감을 유지하면서도, AI 기반의 설명 가능한 의사결정 지원을 통해 인지적 부담을 감소시킬 수 있도록 하였다.
• 공개된 GitLab 레포지토리에서 제공되는 데모를 통해 실생활 산업 품질 검사 환경에서 신경-기호 통합의 실현 가능성을 확인할 수 있었다.