[논문 리뷰] Position Paper: Bridging the Gap Between Machine Learning and Sensitivity Analysis

Christian A. Scholbeck, Julia Moosbauer외 4명|arXiv (Cornell University)|2023. 12. 20.

Probabilistic and Robust Engineering Design인용 수 6

한 줄 요약

이 논문은 해석 가능한 기계학습(IML)이 본질적으로 민감도 분석(SA)의 한 형태임을 제안하며, 공식적인 SA 프레임워크 내에서 ML 설명 방법을 통합한다. ML 파이프라인을 SA용 시스템으로 간주함으로써, 부분적 의존도나 셰플리 값과 같은 모델에 종속되지 않는 방법들을 기존의 SA 기법들과 연결함으로써, 다학제적 통찰을 가능하게 하고 중복 연구를 줄인다.

ABSTRACT

We argue that interpretations of machine learning (ML) models or the model-building process can be seen as a form of sensitivity analysis (SA), a general methodology used to explain complex systems in many fields such as environmental modeling, engineering, or economics. We address both researchers and practitioners, calling attention to the benefits of a unified SA-based view of explanations in ML and the necessity to fully credit related work. We bridge the gap between both fields by formally describing how (a) the ML process is a system suitable for SA, (b) how existing ML interpretation methods relate to this perspective, and (c) how other SA techniques could be applied to ML.

연구 동기 및 목표

• 해석 가능한 기계학습(IML)과 민감도 분석(SA) 사이에 공식적인 연결 고리를 구축하고, IML을 SA의 특수한 응용 사례로 위치지음.
• 현대 IML 연구에서 기초적인 SA 연구가 인용되지 않고 인식되지 않은 채로 남아 있어 발생한 중복된 방법론 개발 문제를 해결함.
• 분산 기반 기법, FANOVA, 소볼 지수 등 기존의 SA 기법들이 직접적으로 ML 모델과 하이퍼파라미터 최적화를 해석하는 데 적용될 수 있음을 보여줌.
• 모델 특화 설명(예: 트리 분할, 시각화 지도)과 같은 새로운 분야인 비지도 학습 설명을 포함하도록 SA 프레임워크를 확장함.
• 수십 년에 걸친 SA 연구를 IML 공동체의 실무에 통합함으로써, 모델 설명 분야에서 통일된 용어와 방법론을 주장함.

제안 방법

• 데이터, 모델 훈련, 하이퍼파라미터 최적화, 추론을 포함한 전체 기계학습 파이프라인을 민감도 분 析에 적합한 시스템으로 공식화함.
• 기존의 모델에 종속되지 않는 IML 방법들(예: 부분적 의존도, SHAP, LIME)을 해당하는 SA 기법에 매핑하여, 개념적·수학적 동치성을 보여줌.
• 분산 기반 SA 기법(예: 소볼 지수, FANOVA 분해)을 적용하여 ML 모델 내 특성 중요도와 상호작용 효과를 정량화함.
• 모델의 구조나 기울기에서 유도된 민감도 측정치로 간주함으로써, 모델 특화 설명(예: 시각화 지도, 트리 분할)을 포함하도록 프레임워크를 확장함.
• 샘플링, 간섭, 예측, 집계의 네 단계로 구성된 일반화된 설명 프레임워크를 도입함—표준 SA 워크플로우를 반영함.
• 하이퍼파라미터 최적화(HPO)가 모델 성능이 하이퍼파rameter에 대해 민감도 분석으로 간주될 수 있음을 강조함.

실험 결과

연구 질문

• RQ1 기계학습 과정을 민감도 분 析에 적합한 시스템으로 공식적으로 프레임화할 수 있는가?
• RQ2 현존하는 모델에 종속되지 않는 기계학습 설명 방법들이 기존의 민감도 분석 기법과 어느 정도 일치하는가?
• RQ3 클래식한 SA 기법(예: 소볼 지수, FANOVA)을 ML 모델과 하이퍼파라미터 최적화에 적용함으로써 어떤 통찰과 방법론적 이점이 얻어지는가?
• RQ4 왜 기계학습 공동체는 기초적인 SA 연구를 대부분 간과했으며, 그로 인해 연구 및 개발에 어떤 영향을 미쳤는가?
• RQ5 민감도 분석이 예측 모델 뿐 아니라 비지도 학습과 모델 특화 설명까지 통합할 수 있는 통합 프레임워크가 될 수 있는가?

주요 결과

• 데이터, 모델 훈련, 하이퍼파라미터 최적화를 포함한 ML 과정은 공식적으로 민감도 분석용 시스템으로 간주될 수 있으며, 이는 체계적인 설명을 가능하게 한다.
• 부분적 의존도, SHAP와 같은 핵심 IML 기법들은 기존의 SA 기법(예: FANOVA 분해, 분산 기반 민감도 지수)과 수학적으로 동치임을 입증함.
• 1940년대에 개발된 고차원 모델 표현(HDMR)과 같은 역사적인 SA 기법들이 현대 ML 설명 기법의 기초를 이룬 바 있으나, 그 기원은 자주 인용되지 않음.
• 환경 및 공학 분야에서 오랫동안 사용된 기법들인 소볼 지수와 그룹 중요도 측정법은 직접적으로 ML에 적용 가능하며, 이는 강건성과 설명 가능성 향상에 기여할 수 있음.
• 모델의 구조나 기울기에서 파생된 민감도 측정치로 간주함으로써, 시각화 지도, 트리 분할과 같은 모델 특화 설명까지 프레임워크에 통합됨.
• SA를 IML에 통합함으로써, 하이퍼파라미터 최적화와 비지도 학습에 고급 SA 기법을 적용할 수 있는 새로운 연구 방향이 열리며, L2PC와 FACT와 같은 방법들에서 초기 증거가 확인됨.