[논문 리뷰] Approximation Trees: Statistical Stability in Model Distillation

Yichen Zhou, Zhengze Zhou외 1명|arXiv (Cornell University)|2018. 08. 22.

Explainable Artificial Intelligence (XAI)참고 문헌 27인용 수 15

한 줄 요약

이 논문은 결정 트리 distillation의 안정성을 향상시키기 위해 대규모 가짜 데이터 세트에서 가설 검정을 사용하여 일관된 분할 규칙을 확보하고, 랜덤 포레스트의 변동성에 기반한 정지 규칙을 도입하여 노이즈에 대한 과적합을 방지하는 방법을 제안한다. 이 방법은 분할 안정성과 트리 깊이를 모두 제어함으로써 신뢰할 수 있고 재현 가능한 설명을 보장하며, CAD-MDD 및 COMPAS 데이터에서의 실증적 검증을 통해 안정적인 트리 구조를 확보하기 위해 일반적으로 사용되는 것보다 훨씬 더 많은 가짜 데이터가 필요하다는 것을 보여준다.

ABSTRACT

This paper examines the stability of learned explanations for black-box predictions via model distillation with decision trees. One approach to intelligibility in machine learning is to use an understandable `student' model to mimic the output of an accurate `teacher'. Here, we consider the use of regression trees as a student model, in which nodes of the tree can be used as `explanations' for particular predictions, and the whole structure of the tree can be used as a global representation of the resulting function. However, individual trees are sensitive to the particular data sets used to train them, and an interpretation of a student model may be suspect if small changes in the training data have a large effect on it. In this context, access to outcomes from a teacher helps to stabilize the greedy splitting strategy by generating a much larger corpus of training examples than was originally available. We develop tests to ensure that enough examples are generated at each split so that the same splitting rule would be chosen with high probability were the tree to be re trained. Further, we develop a stopping rule to indicate how deep the tree should be built based on recent results on the variability of Random Forests when these are used as the teacher. We provide concrete examples of these procedures on the CAD-MDD and COMPAS data sets.

연구 동기 및 목표

• 작은 데이터 변화가 트리의 구조와 해석을 근본적으로 변화시키는 결정 트리의 불안정성 문제를 해결하기 위해.
• 다른 가짜 데이터 샘플로 재학습할 때도 분할 규칙이 통계적으로 안정적이고 재현 가능하도록 보장하기 위해.
• 랜덤 포레스트의 통계적 성질을 활용해 신호가 노이즈와 구분되지 않을 정도로 트리 성장을 정지시키는 정지 규칙을 개발하기 위해.
• 블랙박스 모델 예측에 대해 진짜 신호를 반영하고 무작위 변동성은 반영하지 않는 안정적이고 해석 가능한 설명을 제공하기 위해.
• 실증적으로 안정적인 트리 구조를 확보하기 위해 일반적으로 사용되는 것보다 훨씬 더 많은 가짜 데이터가 필요하다는 것을 입증하기 위해.

제안 방법

• 기존 특성 분포에서 교차 커널 밀도 추정을 사용해 대규모의 합성 가짜 데이터 세트를 생성하고, 교사 모델의 출력을 반응 변수로 사용한다.
• 각 분할에서 가설 검정 프레임워크를 적용하여 선택된 분할이 대안보다 유의미하게 더 낮은 지니 불순도 감소를 보이는지 확인함으로써 재학습 시 일관성을 확보한다.
• 재학습 시 동일한 분할을 선택할 확률을 높이기 위해 (예: 95%) 각 노드에서의 가짜 데이터 크기를 제어하며, 재표본 기반 p-값 접근법을 사용한다.
• 최근에 제안된 랜덤 포레스트 예측의 표본 변동성 이론적 결과를 통합하여, 신호가 더 이상 노이즈와 구분되지 않을 때 트리 성장을 멈추는 정지 규칙을 유도한다.
• 각 노드에 가설 검정의 p-값을 부여하여 분할에 대한 통계적 신뢰도를 나타내며, 이는 설명의 해석 가능성을 높이는 모델 진단을 가능하게 한다.
• 다양한 후보 분할이 유사한 성능을 보일 경우에도 영향력이 큰 분할에 집중하기 위해 적응형 필터링을 적용하여 계산 비용을 절감한다.

실험 결과

연구 질문

• RQ1 다른 가짜 데이터 샘플로 재학습할 때, 동일한 분할 규칙이 높은 확률로 선택될 수 있는가?
• RQ2 경쟁 분할이 매우 유사한 지니 개선도를 보일 경우, 분할을 안정화하기 위해 얼마나 많은 가짜 데이터 포인트가 필요한가?
• RQ3 어느 깊이에서 결정 트리의 성장을 멈춰야 표본 특유의 노이즈를 포착하지 않고 진짜 기저 신호를 반영할 수 있는가?
• RQ4 랜덤 포레스트의 통계적 성질을 교사 모델로 활용하여, 모델 디스틸레이션에서 트리 깊이에 대한 원칙적인 정지 규칙을 도출할 수 있는가?
• RQ5 현재의 디스틸레이션 관행은 훈련 데이터의 미세한 변동에 민감하여 불안정한 설명을 초래하는 정도는 어느 정도인가?

주요 결과

• 트리의 단일 분할을 안정화시키는 데는 일반적으로 사용되는 것보다 훨씬 많은 5×10⁵개의 가짜 데이터 포인트가 필요할 수 있다.
• 가설 검정 프레임워크는 성능이 유사한 분할일지라도 재학습 시 동일한 분할이 선택될 가능성이 높다는 것을 성공적으로 보장한다.
• 랜덤 포레스트의 변동성에 기반한 정지 규칙은 노이즈에 대한 과적합을 효과적으로 방지하며, 실제 데이터에서 최대 5단계 깊이까지도 의미 있는 트리 구조를 유지함을 입증했다.
• CAD-MDD 및 COMPAS 데이터에서의 실증 결과는 안정적인 분할과 적절한 깊이를 가진 트리가 실제 신호를 반영하고 데이터의 무작위 변동성을 반영하지 않는다는 것을 보여주었다.
• 각 노드에 부여된 p-값은 분할에 대한 통계적 신뢰도를 측정하는 데 유용하며, 설명의 해석 가능성과 신뢰도를 향상시킨다.
• 이 방법은 기존의 많은 디스틸레이션 접근법이 작은 데이터 변동에 민감하여 인과관계 없는 설명을 도출할 수 있음을 드러내며, 공식적인 안정성 검증의 필요성을 강조한다.