[논문 리뷰] Shallow-Deep Networks: Understanding and Mitigating Network Overthinking

Yiğitcan Kaya, Sanghyun Hong외 1명|arXiv (Cornell University)|2018. 10. 16.

Adversarial Robustness in Machine Learning참고 문헌 31인용 수 101

한 줄 요약

이 논문은 내부 분류기를 기존 DNN에 부착하는 Shallow-Deep Networks (SDNs)를 소개하여 예측이 전진 패스를 통해 어떻게 진화하는지 illumination하고, 과사고(overthinking)를 정량화하며, 신뢰도 기반 조기 종료와 혼동 지표를 통해 낭비적이고 파괴적인 효과를 완화합니다.

ABSTRACT

We characterize a prevalent weakness of deep neural networks (DNNs)---overthinking---which occurs when a DNN can reach correct predictions before its final layer. Overthinking is computationally wasteful, and it can also be destructive when, by the final layer, a correct prediction changes into a misclassification. Understanding overthinking requires studying how each prediction evolves during a DNN's forward pass, which conventionally is opaque. For prediction transparency, we propose the Shallow-Deep Network (SDN), a generic modification to off-the-shelf DNNs that introduces internal classifiers. We apply SDN to four modern architectures, trained on three image classification tasks, to characterize the overthinking problem. We show that SDNs can mitigate the wasteful effect of overthinking with confidence-based early exits, which reduce the average inference cost by more than 50% and preserve the accuracy. We also find that the destructive effect occurs for 50% of misclassifications on natural inputs and that it can be induced, adversarially, with a recent backdooring attack. To mitigate this effect, we propose a new confusion metric to quantify the internal disagreements that will likely lead to misclassifications.

연구 동기 및 목표

• DNN 계층을 거치며 예측이 어떻게 진화하는지 과생각(overthinking)을 특징짓고 낭비적이고 파괴적인 효과를 식별합니다.
• 사전 학습된 네트워크의 핵심 가중치를 변경하지 않고 내부 분류기를 추가하는 일반적인 수정으로 SDN을 제안합니다.
• SDN이 조기 종료를 통해 추론 비용을 줄이고 과생각으로 인한 잘못 분류를 완화할 수 있음을 증명합니다.
• 실전에서 과생각을 감지하고 완화하기 위한 휴리스틱(신뢰도 기반 조기 종료 및 혼동 분석)을 개발합니다.
• 다양한 CNN 아키텍처에서 CIFAR-10, CIFAR-100, Tiny ImageNet에 대해 접근법을 시연합니다.

제안 방법

• 선택된 계층 뒤에 내부 분류기(IC)를 부착하고 IC의 규모를 유지하기 위한 특징 감소 단계를 둡니다.
• IC-전용 학습 또는 SDN 학습과 함께 가중 손실을 사용하여 IC의 추론 비용 대비 비례적으로 강조되도록 IC를 학습합니다.
• IC의 효율성을 유지하기 위해 특징 감소에 혼합 최대-평균 풀링 전략을 사용합니다.
• 여러 깊이에 IC를 정의하여 여러 내부 예측과 입력당 최종 예측을 생성합니다.
• 내부 예측과 최종 예측 간의 L1 거리 기반 혼동 지표를 도입하여 불일치를 분석하고 잘못된 분류를 예측합니다.
• 데이터셋과 아키텍처 전반에 걸쳐 FLOPs 및 정확도(Top-1)로 추론 비용을 평가합니다.

실험 결과

연구 질문

• RQ1 IC가 추가된 CNN에서 예측 정확도가 어떻게 진화하는가?
• RQ2 자연 데이터셋에서 표준 CNN의 과생각(낭비적이고 파괴적 요인)의 발생률과 영향은 얼마나 되는가?
• RQ3 SDN은 정확도를 해치지 않으면서 평균 추론 비용을 줄일 수 있는가, 악의적 입력/백도어 시나리오에서 성능을 회복할 수 있는가?
• RQ4 신뢰도 기반 조기 종료와 제안된 혼동 지표가 과생각을 완화하는 데 얼마나 효과적인가?
• RQ5 내부 예측 간의 불일치가 오류의 원인을 밝히고 해석 가능성을 높이는 데 도움이 되는가?

주요 결과

• 내부 분류기는 원래의 정확도를 개선하거나 같은 수준으로 만들고, 대부분의 입력은 조기에 종료될 수 있어 여러 작업에서 추론 비용이 50% 이상 감소한다.
• 과생각은 일반적이다: 자연 입력에서 낭비 계산은 최대 약 95%의 입력에 의해 발생하고, 파괴적 오분류는 CNN 오류의 최대 약 50%에서 발생한다.
• SDN 기반의 조기 종료는 평균 FLOPs를 최대 약 50–75%까지 감소시키면서 정확도 손실 없이 가능하며 악의적 입력에서 백도어가 있는 네트워크의 정확도를 12%에서 84%로 회복할 수 있다.
• 최종 예측과 내부 예측 간의 L1 거리 기반의 새로운 혼동 지표는 잠재적으로 오분류를 나타내는 신뢰할 수 있는 지표이며 오류 진단에 도움을 준다.
• 조기 종료는 트리거의 효과를 줄여 백도어 공격을 완화할 수 있으며, 혼동 지표는 안전한 작동을 위한 실용적인 오류 지표를 제공한다.