[논문 리뷰] How to Stop Off-the-Shelf Deep Neural Networks from Overthinking.

Yiğitcan Kaya, Tudor Dumitraş|arXiv (Cornell University)|2018. 10. 16.

Adversarial Robustness in Machine Learning인용 수 3

한 줄 요약

이 논문은 사전 학습된 딥 네트워크에서 '과잉 고민' 현상을 규명한다. 과잉 고민이란 최종 레이어에 도달하기 이전에 정확한 예측을 내리는 현상으로, 이는 계산 자원 낭비와 잠재적인 오분류를 유발한다. 본 논문은 내부 분류기들을 추가하여 신뢰도 기반 조기 종료를 가능하게 하는 슈래로-디프 네트워크(SDN)를 제안한다. 이로 인해 평균 추론 비용을 50% 이상 절감하면서도 정확도를 유지하고, 새로운 혼동 지표를 통해 파괴적인 오분류를 완화할 수 있다.

ABSTRACT

We characterize a prevalent weakness of deep neural networks (DNNs)---overthinking---which occurs when a DNN can reach correct predictions before its final layer. Overthinking is computationally wasteful, and it can also be destructive when, by the final layer, a correct prediction changes into a misclassification. Understanding overthinking requires studying how each prediction evolves during a DNN's forward pass, which conventionally is opaque. For prediction transparency, we propose the Shallow-Deep Network (SDN), a generic modification to off-the-shelf DNNs that introduces internal classifiers. We apply SDN to four modern architectures, trained on three image classification tasks, to characterize the overthinking problem. We show that SDNs can mitigate the wasteful effect of overthinking with confidence-based early exits, which reduce the average inference cost by more than 50% and preserve the accuracy. We also find that the destructive effect occurs for 50% of misclassifications on natural inputs and that it can be induced, adversarially, with a recent backdooring attack. To mitigate this effect, we propose a new confusion metric to quantify the internal disagreements that will likely lead to misclassifications.

연구 동기 및 목표

• 사전 학습된 딥 네트워크에서 최종 레이어에 도달하기 이전에 정확한 예측이 이루어지는 '과잉 고민' 현상을 규명하고 특성화하는 것.
• 초기 정확한 예측 이후 불필요한 순방향 전파로 인해 발생하는 계산 낭비를 줄이는 것.
• 특히 악성 조건 하에서 최종 레이어에 의해 정확한 예측이 오분류로 바뀌는 위험을 완화하는 것.
• 재학습 없이도 기존 DNN의 추론 효율성과 내성적 강건성을 향상시킬 수 있는 일반적이고 아키텍처에 구애받지 않는 방법을 개발하는 것.

제안 방법

• 기존 DNN의 중간 레이어에 내부 분류기를 삽입하는 일반적인 수정 방법인 슈래로-디프 네트워크(SDN)를 도입한다.
• 신뢰도 기반 조기 종료를 활용: 내부 분류기의 예측 신뢰도가 임계값을 초과하면 추론을 조기에 종료하여 전체 순방향 전파를 피한다.
• 원본 DNN의 최종 레이어에서의 지식 정복을 통해 내부 분류기를 학습시켜 정확도를 유지한다.
• 내부 분류기 간의 불일치를 정량화하는 새로운 혼동 지표를 제안하여, 최종 레이어에서의 오분류를 유발할 가능성이 있는 경우를 식별한다.
• 네 가지 현대적 아키텍처(예: ResNet, DenseNet)를 사용하여 세 가지 이미지 분류 벤치마크에서 성능을 평가한다.
• 유도된 파괴적 행동 하에서의 강건성을 테스트하기 위해 악성 뒷도어 공격을 적용한다.

실험 결과

연구 질문

• RQ1 사전 학습된 DNN에서 얼마나 많은 경우에 '과잉 고민' 현상이 발생하는가? 즉, 최종 레이어에 도달하기 이전에 정확한 예측이 이루어지는가?
• RQ2 내부 분류기의 신뢰도 기반 조기 종료를 통해 얼마나 많은 계산 비용을 절감할 수 있는가?
• RQ3 최종 레이어에서 정확한 예측이 오분류로 바뀌는 빈도는 얼마나 되며, 이를 예측하거나 방지할 수 있는가?
• RQ4 제안된 혼동 지표는 오분류를 앞서는 내부 분류기 간의 불일치를 효과적으로 식별할 수 있는가?
• RQ5 SDN 프레임워크는 재학습 없이도 기존 DNN에 얼마나 일반적으로 적용할 수 있는가?

주요 결과

• 자연 입력에서 오분류의 50%에서 과잉 고민 현상이 발생하며, 이는 초기에 정확한 예측이 이루어지지만 최종 레이어에서 변경되는 경우이다.
• 최근의 뒷도어 공격을 통해 과잉 고민의 파괴적 영향을 유도할 수 있으며, 이는 기존 DNN의 취약성을 입증한다.
• 신뢰도 기반 조기 종료를 통해 SDN이 평균 추론 비용을 50% 이상 절감하면서도 원본 모델의 정확도를 유지한다.
• 제안된 혼동 지표는 최종 레이어 오분류를 앞서는 내부 불일치를 효과적으로 식별한다.
• SDN 프레임워크는 네 가지 현대적 아키텍처와 세 가지 이미지 분류 과제에서 효과적으로 작동하여 광범위한 적용 가능성을 입증한다.
• SDN의 내부 분류기는 정확도를 유지하면서도 원본 DNN의 재학습 없이도 효율적인 추론을 가능하게 한다.