[논문 리뷰] Improving the Interpretability of Deep Neural Networks with Knowledge Distillation

Xuan Liu, Xiaoguang Wang외 1명|arXiv (Cornell University)|2018. 12. 28.

Explainable Artificial Intelligence (XAI)참고 문헌 43인용 수 11

한 줄 요약

이 논문은 해석 가능성과 정확도를 동시에 확보하기 위해 지식 정련을 사용하여 딥 네ural 네트워크(DNN)를 결정 트리로 정련하는 방법을 제안한다. DNN의 소프트 레이블(로짓)을 결정 트리 학생 모델로 이전함으로써, 동일한 깊이에서 기존 결정 트리보다 1–5% 높은 정확도를 달성하며, 모델의 해석 가능성은 유지하면서 성능 향상을 입증한다.

ABSTRACT

Deep Neural Networks have achieved huge success at a wide spectrum of applications from language modeling, computer vision to speech recognition. However, nowadays, good performance alone is not sufficient to satisfy the needs of practical deployment where interpretability is demanded for cases involving ethics and mission critical applications. The complex models of Deep Neural Networks make it hard to understand and reason the predictions, which hinders its further progress. To tackle this problem, we apply the Knowledge Distillation technique to distill Deep Neural Networks into decision trees in order to attain good performance and interpretability simultaneously. We formulate the problem at hand as a multi-output regression problem and the experiments demonstrate that the student model achieves significantly better accuracy performance (about 1\% to 5\%) than vanilla decision trees at the same level of tree depth. The experiments are implemented on the TensorFlow platform to make it scalable to big datasets. To the best of our knowledge, we are the first to distill Deep Neural Networks into vanilla decision trees on multi-class datasets.

연구 동기 및 목표

• 의료와 같은 임무 중심 도메인에서 딥 러닝의 모델 해석 가능성과 높은 성능 사이의 갈등을 해결하기 위해.
• 복잡한 데이터셋에서 성능이 떨어지는 본질적으로 해석 가능한 모델, 예를 들어 결정 트리의 정확도를 향상시키기 위해.
• DNN의 '어둠의 지식'(dark knowledge)인 소프트 예측을 활용하여 간단하고 해석 가능한 학생 모델의 훈련을 이끌기 위해.
• 지식 정련이 모델 압축 외에도 기계 학습에서 해석 가능성 향상에 활용될 수 있음을 보여주기 위해.

제안 방법

• 이 방법은 지식 정련을 다중 출력 회귀 문제로 공식화하여, 학생 모델이 미리 훈련된 DNN 교사로부터 로짓을 예측하도록 학습한다.
• DNN에서 유도된 소프트 레이블(소프트맥스 이전의 로짓)을 사용하여 결정 트리를 훈련함으로써 하드 레이블보다 더 풍부한 정보를 유지한다.
• 온도 스케일링을 사용하여 확률 분포를 부드럽게 하여 지식 전이를 향상시킨다.
• 학습 및 테스트 데이터를 교사와 동일하게 사용하여 공정한 비교를 보장한다.
• 확장성과 재현 가능성을 확보하기 위해 텐서플로우를 사용하여 MNIST 및 Connect-4 데이터셋에서 실험을 수행한다.
• 사람이 이해하기 쉬운 모델을 유지하기 위해 트리 깊이를 10으로 제한한다. 깊이가 더 깊어지면 인지적으로 비현실적이기 때문이다.

실험 결과

연구 질문

• RQ1 지식 정련을 통해 결정 트리의 정확도를 향상시키면서도 해석 가능성은 유지할 수 있는가?
• RQ2 동일한 데이터에서 DNN 로짓을 사용한 정련과 기존 결정 트리의 훈련 방식을 비교했을 때 어떤 차이가 있는가?
• RQ3 학생 모델의 성능가 교사 모델의 품질에 얼마나 의존하는가?
• RQ4 트리 깊이가 제한된 경우와 제한되지 않은 경우에 비해 정련이 얼마나 더 큰 정확도 향상을 가져오는가?

주요 결과

• MNIST 및 Connect-4 데이터셋에서 동일한 트리 깊이에서 정련된 결정 트리 학생 모델이 기존 결정 트리보다 1–5% 높은 정확도를 달성한다.
• MNIST에서는 깊이 10에서 학생 모델이 86.55%의 정확도를 기록하여 엔트로피 기준을 사용한 최고의 기존 결정 트리(84.50%)를 초월한다.
• Connect-4에서는 깊이 10에서 학생 모델이 73.42%의 정확도를 기록하여 지니 기준을 사용한 기존 결정 트리(70.44%)를 뛰어넘는다.
• 트리 깊이가 제한되지 않은 경우에도 학생 모델은 기존 트리(88.28% 대 87.40%)를 여전히 앞서지만, 성능 향상 폭은 더 작다.
• 트리 깊이가 제한된 경우 정련 효과가 더 두드러지며, 이는 이 방법이 작고 인간이 읽을 수 있는 모델 내에서 높은 정확도를 달성함으로써 해석 가능성을 향상시킨다는 것을 확인한다.
• 결과적으로 지식 정련이 해석 가능한 모델과 복잡한 DNN 사이의 성능 격차를 크게 줄일 수 있음을 보여준다.