[논문 리뷰] Explainable AI (XAI) for PHM of Industrial Asset: A State-of-The-Art, PRISMA-Compliant Systematic Review

Ahmad Kamal Bin Mohd Nor, Srinivasa Rao Pedapati외 1명|arXiv (Cornell University)|2021. 07. 08.

Explainable Artificial Intelligence (XAI)참고 문헌 43인용 수 13

한 줄 요약

이 PRISMA 준수 체계적 리뷰는 2015년에서 2021년까지 산업 자산의 예측 유지보수 및 건강 관리(PHM) 분야에서 해석 가능한 인공지능(XAI)에 관한 최신 연구를 종합한다. 이 리뷰는 XAI가 PHM에서 점점 더 널리 채택되고 있으며, 예측 성능을 유지하면서 모델의 해석 가능성까지 향상시키고 있음을 보여주며, 특히 실생활 산업 응용 분야에서 인간의 참여, 평가 지표, 불확실성 정량화 측면에서의 격차를 드러낸다.

ABSTRACT

A state-of-the-art systematic review on XAI applied to Prognostic and Health Management (PHM) of industrial asset is presented. This work provides an overview of the general trend of XAI in PHM, answers the question of accuracy versus explainability, the extent of human involvement, the explanation assessment and uncertainty quantification in PHM-XAI domain. Research articles associated with the subject, from 2015 to 2021 were selected from five known databases following PRISMA guidelines. Data was then extracted from the selected articles and examined. Several findings were synthesized. Firstly, while the discipline is still young, the analysis indicated the growing acceptance of XAI in PHM domain. Secondly, XAI functions as a double edge sword, where it is assimilated as a tool to execute PHM tasks as well as a mean of explanation, particularly in diagnostic and anomaly detection activities, implying a real need for XAI in PHM. Thirdly, the review showed that PHM-XAI papers produce either good or excellent result in general, suggesting that PHM performance is unaffected by XAI. Fourthly, human role, evaluation metrics and uncertainty management are areas requiring further attention by the PHM community. Adequate assessment metrics to cater for PHM need are urgently needed.Finally, most case study featured on the accepted articles are based on real, industrial data, indicating that the available PHM-XAI blends are fit to solve complex,real-world challenges, increasing the confidence in AI adoption in the industry.

연구 동기 및 목표

• 산업 자산의 예측 유지보수 및 건강 관리(PHM) 분야에서 XAI 통합의 현재 상태를 평가하기 위해.
• PHM-XAI 응용에서 모델 정확도와 설명 가능성 간의 상호 상충 관계를 평가하기 위해.
• XAI 기반 PHM 시스템에서 인간의 참여 역할을 검토하기 위해.
• PHM-XAI 연구 내 설명 평가 및 불확실성 정량화 측면에서의 격차를 특정하기 위해.
• 실제 산업 데이터셋을 활용하여 PHM-XAI 솔루션의 실생활 적용 가능성을 평가하기 위해.

제안 방법

• PRISMA 지침을 기반으로 다섯 개의 주요 학술 데이터베이스를 활용해 체계적 문헌 리뷰를 수행하였다.
• 2015년에서 2021년 사이에 출판된, 산업 자산의 PHM에서 XAI에 중점을 둔 동료 심사 논문을 선별하였다.
• 모델 성능, 설명 기법, 인간-중심 참여, 평가 지표 등의 데이터를 추출하였다.
• 주제 분석을 통해 추세, 성능 결과 및 방법론적 격차를 종합하였다.
• 실제 산업 데이터셋의 사용을 평가하여 실용적 관련성과 확장 가능성 여부를 점검하였다.
• 진단, 이상 탐지 및 예측 작업에서의 응용에 따라 XAI 기법을 분류하였다.

실험 결과

연구 질문

• RQ1 2015년에서 2021년 사이에 산업적 PHM에서 XAI의 주요 추세와 적용 분야는 무엇인가?
• RQ2 XAI의 통합이 PHM 모델의 정확도와 신뢰성에 어떤 영향을 미치는가?
• RQ3 XAI 강화된 PHM 시스템에서 인간의 참여가 얼마나 필요하거나 유익한가?
• RQ4 현재 PHM-XAI 시스템에서 설명의 품질을 평가하기 위해 사용되는 평가 지표는 무엇인가?
• RQ5 기존의 PHM-XAI 연구에서 불확실성은 어떻게 정량화되고 관리되고 있는가?

주요 결과

• PHM에서 XAI 통합은 급속도로 증가하고 있어 산업 응용 분야에서의 수용도와 성숙도가 높아지고 있음을 시사한다.
• PHM-XAI 모델는 일관되게 양호한 수준에서 우수한 성능을 기록하고 있어, 설명 가능성의 향상으로 인해 예측 정확도가 손상되지 않음을 시사한다.
• XAI는 진단 및 이상 탐지 워크플로우에서 특히 중요한 도구로 사용되며, 진단, 이상 탐지 및 예측 작업 모두에서 설명 기법으로서의 역할을 수행한다.
• 상당 수의 사례 연구가 실제 산업 데이터를 기반으로 하여 현재의 PHM-XAI 솔루션의 실용적 타당성과 산업적 관련성을 입증하고 있다.
• PHM 전용 요구사항에 맞는 표준화된 평가 지표가 부족하여 심각한 연구 격차가 존재함을 시사한다.
• 불확실성 정량화 및 인간-중심 평가가 여전히 개발이 부족하여 향후 연구에서 방법론적 관심이 더욱 필요하다.