[논문 리뷰] Towards an MLOps Architecture for XAI in Industrial Applications

Leonhard Faubel, Thomas Woudsma외 9명|arXiv (Cornell University)|2023. 09. 22.

Big Data and Business Intelligence인용 수 5

한 줄 요약

이 논문은 산업적 기계학습 워크플로우에 설명 가능 인공지능(XAI)을 통합하는 새로운 MLOps 아키텍처를 제안하며, 엔드 투 엔드의 설명 가능성, 피드백 수집 및 모델 관리 기능을 제공한다. 이 아키텍처는 산업적 사용 사례에서 EXPLAIN 프로젝트로 구현되었으며, MLflow, Seldon Core, Evidently와 같은 표준화된 도구를 사용하여 모델 라이프사이클 관리를 간소화하고, 내장된 XAI 및 피드백 메커니즘을 통해 비기술적 이해관계자들에게 신뢰도와 투명성을 향상시킨다.

ABSTRACT

Machine learning (ML) has become a popular tool in the industrial sector as it helps to improve operations, increase efficiency, and reduce costs. However, deploying and managing ML models in production environments can be complex. This is where Machine Learning Operations (MLOps) comes in. MLOps aims to streamline this deployment and management process. One of the remaining MLOps challenges is the need for explanations. These explanations are essential for understanding how ML models reason, which is key to trust and acceptance. Better identification of errors and improved model accuracy are only two resulting advantages. An often neglected fact is that deployed models are bypassed in practice when accuracy and especially explainability do not meet user expectations. We developed a novel MLOps software architecture to address the challenge of integrating explanations and feedback capabilities into the ML development and deployment processes. In the project EXPLAIN, our architecture is implemented in a series of industrial use cases. The proposed MLOps software architecture has several advantages. It provides an efficient way to manage ML models in production environments. Further, it allows for integrating explanations into the development and deployment processes.

연구 동기 및 목표

• 설명 가능성과 이해관계자 피드백에 대한 내재된 지원이 부족한 산업용 MLOps 솔루션의 격차를 보완한다.
• 기계학습 전문 지식이 없는 도메인 전문가들이 모델 개발, 배포 및 검증에 적극적으로 참여할 수 있도록 한다.
• 산업용 응용 프로그램을 위해 XAI 도구와 피드백 루프를 내재적으로 통합한 확장성 있고 모듈러한 MLOps 스택을 개발한다.
• 데이터 드프트, 개념 드프트, 예측 품질의 지속적 모니터링을 통해 모델의 신뢰성을 확보한다.
• 기술적 기계학습 팀과 산업 현장 전문가 사이의 간극을 해소하기 위해 모델 결정의 투명성과 상호작용을 가능하게 한다.

제안 방법

• 산업 프로젝트의 요구사항과 실제 배포 제약 조건을 기반으로 모듈러한 MLOps 아키텍처를 설계한다.
• H2O, IBM AI Explainability 360, 및 커스텀 해설기와 같은 XAI 도구를 모델 훈련 및 추론 파이프라인에 통합한다.
• MLflow를 사용해 실험 추적, 모델 및 설명의 버전 관리, 모델 레지스트리 관리를 수행한다.
• Kubernetes 기반으로 Seldon Core를 사용해 수평 확장이 가능한 프로덕션 수준의 추론을 구현하며, 설명 가능성 지원을 통합한다.
• Evidently와 Grafana를 사용해 실시간으로 데이터 드프트 및 개념 드프트를 감지하기 위해 데이터 모니터링을 구현한다.
• Django 기반의 피드백 GUI 프로토타입을 개발해 예측의 레이블링 및 수정을 가능하게 하며, 향후 고급 이미지 전용 해설기 통합 계획이 수립되어 있다.

Figure 1: Adopted explain life cycle from [ 14 ] .

실험 결과

연구 질문

• RQ1 어떻게 산업 기계학습 배포에서 설명 가능성과 피드백을 내재적으로 지원할 수 있는가?
• RQ2 비기술적 도메인 전문가가 기계학습 모델 개발 및 추론에 이해하고 기여할 수 있도록 하기 위해 필요한 아키텍처 구성 요소는 무엇인가?
• RQ3 통합된 MLOps 및 XAI 파이프라인 내에서 데이터 드프트와 개념 드프트는 어떻게 감지하고 관리할 수 있는가?
• RQ4 MLflow 및 Seldon Core와 같은 표준화된 도구가 확장성 있고, 버전 관리가 가능하며 설명 가능한 모델 관리에 어떻게 기여하는가?
• RQ5 도메인 전문가의 피드백은 어떻게 체계적으로 캡처하고 모델 개선 사이클에 통합할 수 있는가?

주요 결과

• 제안된 MLOps 아키텍처는 XAI를 기계학습 전체 라이프사이클에 성공적으로 통합하여 산업 환경에서 투명성과 이해관계자 참여를 가능하게 했다.
• MLflow를 통한 모델 및 설명의 버전 관리는 모델 결정의 재현성과 감사 가능성을 보장한다.
• Evidently와 Grafana를 사용한 데이터 및 개념 드프트 모니터링은 수동적인 모델 유지보수를 지원한다.
• 이미지 데이터의 레이블링 및 수정을 위한 피드백 GUI 프로토타입이 구현되었으며, 향후 최신 기술 기반의 이미지 해설기로 확장할 계획이다.
• Seldon Core를 통한 모델 서빙은 수평 확장성과 추론 시점의 설명 가능성 통합을 가능하게 한다.
• 다시 학습, 경고 기능, 완전한 피드백 루프 통합 측면에서 진전이 부족하며, 향후 연구의 핵심 분야로 지목되었다.

Figure 2: EXPLAIN MLOps Software Architecture in five domains and eight components. Major XAI functionality in bold , but it is not limited to only those components.