[논문 리뷰] Hybrid Predictive Model: When an Interpretable Model Collaborates with a Black-box Model

Tong Wang, Qihang Lin|arXiv (Cornell University)|2019. 05. 10.

Explainable Artificial Intelligence (XAI)참고 문헌 60인용 수 11

한 줄 요약

이 논문은 예측 성능을 높이면서도 투명성을 향상시키기 위해 해석 가능한 모델(예: 연관 규칙 또는 선형 모델)과 블랙박스 모델을 통합하는 하이브리드 예측 모델(HPM)을 제안한다. 이 프레임워크는 블랙박스 모델과 거의 동일한 성능을 내는 데이터 서브셋에서는 블랙박스 모델을 해석 가능한 대체 모델로 교체하여 정확도, 해석 가능성, 모델 투명성 간의 트레이드오프를 원칙적인 목적 함수를 통해 최적화하며, 효율적인 성능-투명성 프론티어를 도출한다.

ABSTRACT

Interpretable machine learning has become a strong competitor for traditional black-box models. However, the possible loss of the predictive performance for gaining interpretability is often inevitable, putting practitioners in a dilemma of choosing between high accuracy (black-box models) and interpretability (interpretable models). In this work, we propose a novel framework for building a Hybrid Predictive Model (HPM) that integrates an interpretable model with any black-box model to combine their strengths. The interpretable model substitutes the black-box model on a subset of data where the black-box is overkill or nearly overkill, gaining transparency at no or low cost of the predictive accuracy. We design a principled objective function that considers predictive accuracy, model interpretability, and model transparency (defined as the percentage of data processed by the interpretable substitute.) Under this framework, we propose two hybrid models, one substituting with association rules and the other with linear models, and we design customized training algorithms for both models. We test the hybrid models on structured data and text data where interpretable models collaborate with various state-of-the-art black-box models. Results show that hybrid models obtain an efficient trade-off between transparency and predictive performance, characterized by our proposed efficient frontiers.

연구 동기 및 목표

• 기계학습 모델에서 예측 정확도와 해석 가능성 간의 트레이드오프를 해결하기 위해.
• 후행 해석 도구의 한계를 극복하기 위해, 이는 근사적이고 일관성 없는 해석만 제공하기 때문이다.
• 블랙박스 모델이 과도하게 복잡한 데이터 서브셋에서는 블랙박스 모델을 해석 가능한 모델로 대체하는 프레임워크를 개발하기 위해.
• 예측 성능, 해석 가능성, 모델 투명성(해석 가능한 모델이 처리하는 데이터 비율)을 동시에 최적화하는 공동 목적 함수를 최적화하기 위해.
• 최신 블랙박스 모델을 사용하여 구조화된 데이터와 텍스트 데이터에서 하이브리드 접근 방식의 효과성을 입증하기 위해.

제안 방법

• 입력을 먼저 해석 가능한 모델로 라우팅하고, 필요할 경우에만 블랙박스 모델로 후행하는 일반적인 하이브리드 예측 모델(HPM) 프레임워크를 제안한다.
• 예측 손실, 모델 복잡도를 통한 해석 가능성 페널티, 해석 가능한 모델의 지원 비율을 포함하는 원칙적인 목적 함수를 정의한다.
• 해석 가능한 대체 모델로 연관 규칙과 선형 모델을 사용한 두 가지 구현 사례에 맞는 맞춤형 학습 알고리즘을 설계한다.
• 최적성 조건에서 유도된 임계값 기반 규칙 선택 메커니즘을 사용한다: 지지도 Nα₁ 이하인 규칙은 양성 규칙 집합에서 제외되고, 지지도 Nα₁/(1−α₂) 이하인 규칙은 음성 규칙 집합에서 제외된다.
• 이중 단계 의사결정 프로세스를 구현한다: 해석 가능한 모델이 충분한 신뢰도로 예측할 수 있으면 이를 사용하고, 그렇지 않으면 블랙박스 모델을 호출한다.
• 최적성과 수렴성을 보장하기 위해 규칙 지지도와 모델 복잡도에 대한 이론적 경계를 유도한다.

실험 결과

연구 질문

• RQ1 블랙박스 모델과 거의 동일한 성능을 내는 데이터 서브셋에서는 해석 가능한 모델을 블랙박스 모델의 대체로 사용할 수 있는가?
• RQ2 하이브리드 모델에서 예측 정확도, 해석 가능성, 투명성 간의 최적 트레이드오프는 무엇인가?
• RQ3 정확도, 해석 가능성, 투명성을 동시에 최적화할 수 있는 원칙적인 목적 함수는 어떻게 설계할 수 있는가?
• RQ4 해석 가능한 규칙을 성능 저하 없이 안전하게 제거할 수 있는 이론적 조건은 무엇인가?
• RQ5 하이브리드 모델은 순수한 해석 가능한 모델 또는 블랙박스 모델보다 더 나은 성능-투명성 트레이드오프를 달성할 수 있는가?

주요 결과

• 하이브리드 모델은 블랙박스 모델과 거의 동일한 예측 성능를 유지하면서도, 최대 70%의 데이터를 해석 가능한 모델로 처리함으로써 투명성에서 뚜렷한 향상을 이룬다.
• 프레임워크는 예측 정확도와 투명성 간의 유리한 트레이드오프를 보여주는 효율적인 프론티어를 생성하며, 순수한 해석 가능한 모델과 블랙박스 모델보다 뛰어난 성능을 보인다.
• 이론적 분석을 통해 지지도 ≤ Nα₁인 규칙들은 최적이 아니며 안전하게 제거될 수 있음을 확인하여 모델의 효율성과 해석 가능성 보장한다.
• 연관 규칙과 선형 모델을 위한 맞춤형 학습 알고리즘이 효과적으로 블랙박스 모델을 대체할 수 있는 데이터 하위공간을 성공적으로 식별한다.
• 구조화된 데이터와 텍스트 데이터에 대한 실증 결과는 하이브리드 모델이 높은 정확도를 유지하면서도 입력 공간의 상당 부분에서 해석 가능성을 크게 향상시킴을 보여준다.
• 후행 해석 도구가 신뢰성과 일관성 문제를 야기하는 것을 방지하기 위해, 이 방법은 해석 가능성을 의사결정 과정에 직접 통합함으로써 후행 해석 도구에 대한 의존도를 감소시킨다.