[논문 리뷰] DNN or k-NN: That is the Generalize vs. Memorize Question

Guy Cohen, Guillermo Sapiro외 1명|arXiv (Cornell University)|2018. 05. 17.

Neural Networks and Applications참고 문헌 27인용 수 13

한 줄 요약

이 논문은 깊이 있는 신경망(DNNs)이 동시에 일반화와 기억을 어떻게 수행하는지, 학습된 특징 표현에 적용된 k-NN, SVM, 로지스틱 회귀 분류기와의 예측 비교를 통해 조사한다. DNNs는 일반화할 때 임bedding 공간에서 k-NN 결정을 근사하지만, 기억화가 일어나면 k-NN 행동에서 벗어나며, 이는 기억화와 일반화가 상호 보완적이며, 서로 배타적이지 않음을 시사한다.

ABSTRACT

This paper studies the relationship between the classification performed by deep neural networks (DNNs) and the decision of various classical classifiers, namely k-nearest neighbours (k-NN), support vector machines (SVM) and logistic regression (LR), at various layers of the network. This comparison provides us with new insights as to the ability of neural networks to both memorize the training data and generalize to new data at the same time, where k-NN serves as the ideal estimator that perfectly memorizes the data. We show that memorization of non-generalizing networks happens only at the last layers. Moreover, the behavior of DNNs compared to the linear classifiers SVM and LR is quite the same on the training and test data regardless of whether the network generalizes. On the other hand, the similarity to k-NN holds only at the absence of overfitting. Our results suggests that k-NN behavior of the network on new data is a sign of generalization. Moreover, it shows that memorization and generalization, which are traditionally considered to be contradicting to each other, are compatible and complementary.

연구 동기 및 목표

• 기존에 상충된 성질로 간주되던 기억화와 일반화가 동시에 존재하는지 조사하기 위해.
• DNN의 결정 경계가 일반화와 기억화의 메커니즘을 이해하기 위해, 네트워크의 각 레이어에서 고전적 분류기(k-NN, SVM, LR)와 어떻게 비교되는지 분석하기 위해.
• 특징 공간에서 k-NN 행동이 DNN의 일반화와 기억화를 구분하는 지표가 될 수 있는지 확인하기 위해.
• 기억화가 네트워크 아키텍처의 언제, 어디서 일어나는지, 특히 학습 동역학과 과적합과의 관계에서 특정하기 위해.
• DNN 예측과 k-NN 결정 간의 일치성이 일반화 성능의 지표가 될 수 있는지 탐색하기 위해.

제안 방법

• 과적합을 제어하기 위해 데이터 증강과 정규화를 사용하거나 사용하지 않은 CIFAR-10/100 및 MNIST에서 표준 DNN(Wide-ResNet, LeNet, MLP)을 훈련한다.
• 각 은닉 레이어에서 특징 표현을 추출하고, 이러한 임베딩에 k-NN, SVM, 로지스틱 회귀 분류기를 적용한다.
• Kullback-Leibler(KL) 발산을 측정 기준으로 삼아, DNN의 소프트맥스 출력 분포와 고전적 분류기의 예측을 비교한다.
• 훈련 전반에 걸쳐 훈련 및 테스트 세트에서 DNN의 예측과 각 고전적 분류기(k-NN, SVM, LR)의 예측 간 KL 발산을 추적한다.
• 기억화를 정의하기 위해 훈련 정확도가 처음으로 100%에 도달하는 지점으로 정의하고, 이 시점에서 훈련 및 테스트 세트의 KL 발산 추세가 어떻게 다름을 분석한다.
• DNN과 k-NN의 예측이 일치할 확률(P_SAME)을 사용하여 훈련 중 k-NN 유사 행동의 정도를 정량화한다.

실험 결과

연구 질문

• RQ1 DNN의 예측 행동이 학습된 특징 공간에서 k-NN 결정과 일치하는가, 어떤 조건에서 그러한 일치가 이루어지는가?
• RQ2 DNN 예측과 고전적 분류기(k-NN, SVM, LR) 간의 유사성이 훈련 중 어떻게 변화하는가, 특히 일반화와 기억화와의 관련성에서 어떻게 변화하는가?
• RQ3 기억화가 네트워크의 어느 레이어에서 주로 발생하는가, 그리고 이는 네트워크의 일반화 성능과 어떻게 관련되는가?
• RQ4 k-NN와 DNN 간의 훈련 및 테스트 세트에 대한 KL 발산 추세의 분리가 과적합 또는 기억화의 지표가 될 수 있는가?
• RQ5 DNN의 특징 공간에서 k-NN 행동은 일반화의 징후인가, 그리고 무작위 레이블의 기억화 또는 과적합 시에 사라지는가?

주요 결과

• DNNs는 일반화가 잘 되는 경우에만 특징 공간에서 k-NN 유사 행동을 보이며, 기억화가 일어나면 이 일치성이 깨진다.
• 일반화 기간 동안 DNN과 k-NN 예측 간 KL 발산은 훈련 및 테스트 세트에서 일관된 추세를 유지하지만, 기억화 이후에는 특히 테스트 세트에서 분리된다.
• 실제 데이터로 훈련된 깊이 있는 네트워크에서는 훈련의 끝에 다다르면 DNN과 k-NN가 같은 예측을 내릴 확률이 100%에 가까워지며, 이는 강한 k-NN 근사성을 시사한다.
• 기억화는 주로 네트워크의 최종 레이어에서 발생하며, 훈련 정확도가 100%로 급격히 상승하고 KL 발산 추세가 분리되는 것으로 확인된다.
• 무작위 레이블로 훈련할 경우, 기억화 직후 DNN과 k-NN 예측 간 KL 발산이 훈련 및 테스트 세트에서 즉시 분리되며, 과적합을 확인한다.
• k-NN와 DNN 간의 훈련 및 테스트 세트에서 KL 발산 추세의 일관성은 일반화의 신뢰할 수 있는 지표이며, 이들의 분리는 과적합을 시사한다.