[논문 리뷰] Highlight Every Step: Knowledge Distillation via Collaborative Teaching

Haoran Zhao, Xin Sun외 3명|arXiv (Cornell University)|2019. 07. 23.

Advanced Neural Network Applications인용 수 5

한 줄 요약

이 논문은 복잡한 학생 네트워크를 더 효율적으로 훈련하기 위해, 새로 훈련된 교사와 사전 훈련된 전문 교사에서 유도하는 이중 감독을 활용하는 새로운 지식 정련 방법인 협업형 지식 정련(Collaborative Teaching Knowledge Distillation, CTKD)을 제안한다. 새로 훈련된 교사는 임시 소프트맥스 출력을 통해 학생의 최적화 경로를 단계별로 안내하고, 전문 교사는 중요한 특징에 집중할 수 있도록 주의 맵(attention maps)을 제공한다. 이로 인해 CIFAR-10, CIFAR-100, SVHN, Tiny ImageNet에서 기존의 최고 성능 기준 학생 모델 대비 최대 2.94%의 정확도 향상을 달성한다.

ABSTRACT

High storage and computational costs obstruct deep neural networks to be deployed on resource-constrained devices. Knowledge distillation aims to train a compact student network by transferring knowledge from a larger pre-trained teacher model. However, most existing methods on knowledge distillation ignore the valuable information among training process associated with training results. In this paper, we provide a new Collaborative Teaching Knowledge Distillation (CTKD) strategy which employs two special teachers. Specifically, one teacher trained from scratch (i.e., scratch teacher) assists the student step by step using its temporary outputs. It forces the student to approach the optimal path towards the final logits with high accuracy. The other pre-trained teacher (i.e., expert teacher) guides the student to focus on a critical region which is more useful for the task. The combination of the knowledge from two special teachers can significantly improve the performance of the student network in knowledge distillation. The results of experiments on CIFAR-10, CIFAR-100, SVHN and Tiny ImageNet datasets verify that the proposed knowledge distillation method is efficient and achieves state-of-the-art performance.

연구 동기 및 목표

• 자원 제약이 있는 장치에서 높은 성능을 보이는 컴팩트한 학생 네트워크를 훈련하는 데 도전하는 것.
• 사전 훈련된 교사의 최종 지식 외에도, 새로 훈련된 교사의 동적 훈련 단계 지식을 활용하는 것.
• 새로 훈련된 교사의 경로 안내 기능과 전문 교사의 특징 주의 기능을 융합하여 학생의 일반화 성능을 향상시키는 것.
• 다양한 벤치마크 데이터셋에서 최고 수준의 지식 정련 성능을 달성하는 것.

제안 방법

• 학습 중에 동시에 훈련되는 새로 훈련된 교사가 각 훈련 단계에서 임시 소프트맥스 출력을 제공하여 학생의 최적화 경로를 안내한다.
• 동일한 데이터셋에서 사전 훈련된 전문 교사는 중간 레이어에서 유도된 주의 맵을 제공하여 학생이 중요한 특징에 집중하도록 돕는다.
• 학생 네트워크는 두 교사의 공동 지도를 받는다: 새로 훈련된 교사는 높은 정확도의 소프트맥스 출력으로 수렴을 보장하고, 전문 교사는 초기 레이어에서의 특징 학습을 향상시킨다.
• 지식 정련은 새로 훈련된 교사의 소프트 레이블과 전문 교사의 주의 맵을 활용하며, 이를 학생의 손실 함수에 통합한다.
• 기존 표준 훈련 프로토콜과 호환되며, 네트워크 양자화와 같은 기존 압축 기법과도 조합 가능하다.
• WRN-40-1을 교사로, WRN-16-1을 학생으로 하여 CIFAR-10, CIFAR-100, SVHN, Tiny ImageNet에서 평가한다.

실험 결과

연구 질문

• RQ1 새로 훈련된 교사의 동적 훈련 단계 지식이 지식 정련에서 학생 네트워크 성능 향상에 기여하는가?
• RQ2 새로 훈련된 교사의 경로 안내 기능과 전문 교사의 주의 기반 지도를 융합하면 학생의 일반화 성능 향상에 기여하는가?
• RQ3 단일 교사 기반 정련과 비교해 이중 교사 협업 정련 방식은 정확도와 강건성 측면에서 어떤가?
• RQ4 전문 교사로부터 유도되는 지식 중 어떤 형태(예: 주의 맵)가 협업 정련 프레임워크에서 가장 효과적인가?

주요 결과

• CTKD 방법은 Tiny ImageNet 데이터셋에서 53.59%의 Top-1 정확도를 달성하여, 정제 없이 훈련된 기준 학생 모델 대비 2.94% 향상된 성능을 보였다.
• CIFAR-100에서 CTKD로 훈련된 학생 네트워크는 기존 최고 수준의 방법들을 초월하며, 다양한 벤치마크에서 일관된 성능 향상을 보였다.
• 전문 교사의 주의 맵 사용은 특히 초기 레이어에서 특징 학습을 크게 향상시켜 학생의 일반화 능력을 강화했다.
• 새로 훈련된 교사의 단계별 지도 덕분에 학생은 낮은 국소 최적화 해를 피하고 더 최적의 훈련 경로를 따를 수 있었다.
• 협업형 지도 전략은 어떤 단일 교사 정련 방법보다도 학생 모델이 교사에 더 가까운 성능을 달성하도록 했다.
• 이 방법은 강건하고 일반화 능력이 뛰어나, CIFAR-10, CIFAR-100, SVHN, Tiny ImageNet 등 다양한 데이터셋에서 일관된 성능 향상을 보였다.