[논문 리뷰] Beyond Sparsity: Tree Regularization of Deep Models for Interpretability

Mike Wu, Michael C. Hughes외 4명|arXiv (Cornell University)|2017. 11. 16.

Explainable Artificial Intelligence (XAI)인용 수 102

한 줄 요약

이 논문은 예측이 매우 정확하면서도 간단한 결정 트리로 근사 가능한 딥 모델을 학습시키기 위한 트리 정규화를 도입하여 시간 시계열 및 실제 세계 작업 전반에서 성능을 희생하지 않으면서 인간이 시뮬레이션하기 쉬운 해석 가능성을 향상시킨다.

ABSTRACT

The lack of interpretability remains a key barrier to the adoption of deep models in many applications. In this work, we explicitly regularize deep models so human users might step through the process behind their predictions in little time. Specifically, we train deep time-series models so their class-probability predictions have high accuracy while being closely modeled by decision trees with few nodes. Using intuitive toy examples as well as medical tasks for treating sepsis and HIV, we demonstrate that this new tree regularization yields models that are easier for humans to simulate than simpler L1 or L2 penalties without sacrificing predictive power.

연구 동기 및 목표

• 깊은 모델의 해석 가능성의 한 형태로서 인간-시뮬러빌리티를 동기 부여하고 정의한다.
• 작은 결정 트리로 잘 근사될 수 있는 의사 결정 경계를 촉진하기 위해 트리 정규화를 제안한다.
• 트리 정규화 모델이 시간 순서 데이터와 실제 세계 도메인에서 낮은 복잡도에서도 높은 정확도를 달성한다는 것을 보여준다.
• 임상의사와 도메인 전문가의 감사가 가능하도록 깊은 모델의 예측을 모방하는 해석 가능한 트리 프록시를 제공한다.

제안 방법

• 네트워크의 임계값 예측을 재현하는 의사 결정 트리의 평균 경로 길이를 시뮬러빌리티의 복잡도 척도(Omega(W))로 정의한다.
• 참조 데이터셋에서 딥 모델의 예측을 모방하는 이진 결정 트리를 학습시키고, 복잡도 측정을 위해 평균 경로 길이를 계산한다.
• 그라디언트 기반 최적화를 위한 미분 불가능한 Omega(W)를 근사하기 위해 작은 MLP를 이용한 미분 가능한 대리 모델 hat_Omega(W)을 개발한다.
• 일반 손실과 함께 hat_Omega(W) 대리 트리 정규화 항을 손실에 통합하여 딥 모델을 학습시킨다.
• 선택적으로 트리-정규화된 GRU가 interpretable HMM을 잔차로 사용하여 해석 가능성을 유지하면서 성능을 향상시키는 GRU-HMM 하이브리드를 구성한다.
• 합성 데이터, 패혈증, HIV, TIMIT 작업에서 MLP와 GRU 기반 시계열로 이 접근법을 시연하고, 의사 트리 프록시가 딥 모델의 결정에 얼마나 잘 반영되는지 보여주는 충실도(fidelity) 분석을 수행한다.

실험 결과

연구 질문

• RQ1 예측 정확도를 손상시키지 않으면서 작은 결정 트리로 쉽게 시뮬레이션할 수 있는 의사 결정 경계를 가지도록 딥 모델을 학습시킬 수 있는가?
• RQ2 시간 순서 데이터 및 실제 세계 도메인에서 L1/L2 페널티보다 낮은 트리 복잡도에서 더 높은 정확도를 트리 정규화가 제공하는가?
• RQ3 인간이 해석 가능한 트리 프록시가 트리 정규화된 딥 모델의 예측을 충실하게 반영하는가(충실도)?
• RQ4 하이브리드 모델(GRU-HMM)이 트리 정규화된 딥 컴포넌트를 활용해 해석 가능성을 유지하면서 성능을 향상시킬 수 있는가?
• RQ5 결과물인 트리 프록시가 도메인 전문가들에게 임상적으로 또는 감사 측면에서 의미가 있는가?

주요 결과

Dataset	Fidelity
signal-and-noise HMM	0.88
SEPSIS (In-Hospital Mortality)	0.81
SEPSIS (90-Day Mortality)	0.88
SEPSIS (Mech. Vent.)	0.90
SEPSIS (Median Vaso.)	0.92
SEPSIS (Max Vaso.)	0.93
HIV (CD4 + below 200)	0.84
HIV (Therapy Success)	0.88
HIV(Mortality)	0.93
HIV (Poor Adherence)	0.90
HIV (AIDS Onset)	0.93
TIMIT	0.85

• 트리 정규화 모델은 모든 작업에서 L1/L2 정규화된 상대 모델보다 작은 평균 경로 길이에서 더 높은 AUC를 달성한다.
• 신호와 노이즈 HMM 작업에서 트리 정규화 GRU는 경로 길이 약 10에서 AUC가 약 0.9에 도달하는 반면, L1/L2는 비슷한 AUC를 얻기 위해 더 긴 경로가 필요하다.
• 패혈증에서 트리 정규화 GRU 모델은 경로 길이 2–10에서 AUC가 0.05–0.1 증가한다.
• TIMIT 및 HIV 작업에서 중간 경로 길이에서 AUC 증가 0.05–0.15를 보이며, 독립 트리나 L1/L2는 낮은 복잡도에서 어려움을 겪는다.
• 의사 결정 트리 프록시는 작업 전반에 걸쳐 충실도 점수 0.81–0.93 범위로 딥 모델의 예측을 충실히 반영한다.
• 의사 결정 트리 프록시는 해석 가능하며(경로 길이 ≤ 25) 임상적 추론과 신뢰에 도움을 준다.
• 트리 정규화 GRU를 갖는 GRU-HMM 하이브리드는 동등한 복잡도에서 GRU 단독보다 더 낮은 경로 길이에서 더 높은 정확도를 달성한다.