[논문 리뷰] Monitoring and explainability of models in production

Janis Klaise, Arnaud Van Looveren외 3명|arXiv (Cornell University)|2020. 07. 13.

Anomaly Detection Techniques and Applications참고 문헌 28인용 수 29

한 줄 요약

이 논문은 생산 환경에서 기계 학습 모델을 모니터링하고 설명 가능한 프레임워크를 종합적으로 제안하며, 성능 추적, 데이터 드리프트 탐지, 이상치 식별 및 모델 해석 가능성에 중점을 두고 오픈소스 도구를 활용한다. 논문은 Seldon Core와 KFServing를 통해 블랙박스 설명 패턴을 도입하여, 모델 내부 정보 없이도 API 기반 쿼리로 즉시 설명을 제공할 수 있도록 한다.

ABSTRACT

The machine learning lifecycle extends beyond the deployment stage. Monitoring deployed models is crucial for continued provision of high quality machine learning enabled services. Key areas include model performance and data monitoring, detecting outliers and data drift using statistical techniques, and providing explanations of historic predictions. We discuss the challenges to successful implementation of solutions in each of these areas with some recent examples of production ready solutions using open source tools.

연구 동기 및 목표

• 모델 배포 이후에도 높은 품질의 기계 학습 서비스를 유지하기 위한 고품질의 모니터링 및 설명 가능성 시스템을 구현하여 모델 배포 이후 도전 과제를 해결한다.
• 생산 환경에서 레이블 부족 문제를 극복하기 위해, 모델 성능을 평가하기 위한 레이블에 의존하지 않는 지표, 데이터 통계 및 대체 지표를 활용한다.
• 통계 기법을 활용하여 입력 및 출력 분포의 분포 이탈을 사전에 탐지할 수 있도록 데이터 드리프트 및 이상치를 탐지한다.
• Anchor 및 LIME과 같은 블랙박스 설명 방법을 통해 생산 환경에서 즉시 사용 가능한 설명을 제공함으로써 기계 학습 시스템의 신뢰도와 투명도를 향상시킨다.
• Seldon Core 및 KFServing와 같은 오픈소스 인프라 플랫폼을 활용하여 모니터링 및 설명 기능을 확장 가능한 MLOps 파이프라인에 통합한다.

제안 방법

• Seldon Core의 /send-feedback API를 사용하여 실시간 성능 지표를 수집하고 계산하며, 표준 기계 학습 지표 외에도 맞춤형 비즈니스 KPI를 포함한다.
• Bolmier 등 (2019)의 라이브러리와 유사한 기법을 활용해 온라인 상태 기반 메트릭 계산을 구현하여 수평 확장 환경에서도 일관성을 확보한다.
• 변화점 탐지 및 코모고로프-스미르노프 검정과 같은 통계 기법을 적용하여 입력 및 출력 분포에서의 데이터 드리프트 및 이상치를 탐지한다.
• 예측 API를 통해 실시간 모델에 쿼리하는 방식으로, 모델 내부 정보 없이도 기능 수준의 설명을 생성할 수 있는 블랙박스 설명 모델(예: Anchor, LIME, SHAP)을 구현한다.
• 모델 서빙용 /predict 엔드포인트와 별도의 설명 서비스를 제공하는 /explain 엔드포인트를 갖춘 이중 배포 아키텍처를 설계하여 즉시 요청에 대응하는 설명 기능을 지원한다.
• Seldon Core 및 KFServing를 활용해 모델 및 설명 컴포넌트를 자동으로 확장하여 고부하 상황에서도 생산 환경의 안정성을 확보한다.

실험 결과

연구 질문

• RQ1 기본 레이블이 지연되거나 가용하지 않을 경우, 어떻게 기계 학습 모델의 성능을 효과적으로 생산 환경에서 모니터링할 수 있는가?
• RQ2 실시간 기계 학습 시스템에서 데이터 드리프트 및 이상치를 탐지하는 데 가장 효과적인 통계 기법은 무엇인가?
• RQ3 모델 내부 정보에 접근할 수 없는 상황에서 어떻게 블랙박스 설명 방법을 생산 환경 기계 학습 파이프라인에 통합할 수 있는가?
• RQ4 어떤 인프라 패턴이 생산 환경에서 확장 가능하고 신뢰성 있으며 저지연 시간을 갖는 설명 서비스를 가능하게 하는가?
• RQ5 실제 운영 환경에서 레이블에 의존하지 않는 지표와 대체 지표는 어떻게 실제 모델 성능과 의미 있는 관계를 맺을 수 있는가?

주요 결과

• 기본 레이블이 가용하지 않을 경우, 기능별 모멘트 및 예측 통계와 같은 레이블에 의존하지 않는 지표가 모델 성능의 효과적인 대체 지표로 기능한다.
• 코모고로프-스미르노프 검정 및 변화점 탐지와 같은 통계 기반 드리프트 탐지 기법은 입력 및 출력 데이터의 분포 이탈을 신뢰성 있게 식별할 수 있다.
• Anchor 및 LIME과 같은 블랙박스 설명 방법은 API 기반 상호작용 패턴을 활용해 생산 모델과 함께 성공적으로 배포할 수 있다.
• 모델 추론과 설명 서비스를 분리하는 이중 배포 패턴은 자동 확장 및 워크로드 격리 기능을 제공하여 시스템의 신뢰도를 향상시킨다.
• Seldon Core 및 KFServing와 같은 오픈소스 도구는 최소한의 엔지니어링 오버헤드로 모니터링 및 설명 파이프라인의 엔드 투 엔드 배포를 지원한다.
• 생산 시스템에 설명 가능성 기능을 통합함으로써 모델에 대한 신뢰도가 향상되고, 특히 헬스케어 및 금융과 같은 고위험 분야에서 디버깅이 가능해진다.