[논문 리뷰] Towards Neural Network Patching: Evaluating Engagement-Layers and Patch-Architectures

Sebastian Kauschke, David Lehmann|arXiv (Cornell University)|2018. 12. 09.

Data Stream Mining Techniques참고 문헌 14인용 수 5

한 줄 요약

이 논문은 내부 특징 표현을 사용하여 잘못 분류된 예측을 보정하는 패치 네트워크와 오차 추정기 학습을 통해 개념 이탈(concept drift)에 적응하기 위한 신경망 패치링(NN-Patching) 방법을 제안한다. 무작위로 초기화된 패치와 중간에서 깊은 수준의 참여 레이어(inclusive patch training)를 사용한 훈련이 가장 뛰어난 성능을 보이며, 재학습이 불가능한 비정상 환경에서 전이 학습보다 적응 속도와 복구 순위에서 뛰어나다.

ABSTRACT

In this report we investigate fundamental requirements for the application of classifier patching on neural networks. Neural network patching is an approach for adapting neural network models to handle concept drift in nonstationary environments. Instead of creating or updating the existing network to accommodate concept drift, neural network patching leverages the inner layers of the network as well as its output to learn a patch that enhances the classification and corrects errors caused by the drift. It learns (i) a predictor that estimates whether the original network will misclassify an instance, and (ii) a patching network that fixes the misclassification. Neural network patching is based on the idea that the original network can still classify a majority of instances well, and that the inner feature representations encoded in the deep network aid the classifier to cope with unseen or changed inputs. In order to apply this kind of patching, we evaluate different engagement layers and patch architectures in this report, and find a set of generally applicable heuristics, which aid in parametrizing the patching procedure.

연구 동기 및 목표

• 재학습이 비현실적인 비정상 환경에서의 개념 이탈 문제를 해결하기 위해.
• 내부 특징 표현(참여 레이어)과 패치 아키텍처를 효과적으로 활용하여 오차 보정에 기여하는 방법을 탐구하기 위해.
• 패치 네트워크의 훈련 방식(포괄적, 배제적, 반배제적)을 평가하여 적응 성능를 최적화하기 위해.
• 전이 학습 방법과 비교하여 신경망 패치링의 적응 속도, 정확도, 치명적 잊음(catastrophic forgetting)에 대한 강건성 측면에서 평가하기 위해.
• 실세계 상황에서 신속하고 신뢰할 수 있는 적응을 가능하게 하기 위한 참여 레이어와 패치 아키텍처 선택에 대한 실용적 힌트를 제공하기 위해.

제안 방법

• 기본 네트워크의 내부 활성값에서 패치 네트워크와 오차 추정기를 훈련시켜 깊은 신경망에 분류기 패치링을 적용한다.
• 기본 네트워크의 중간 특징 맵인 참여 레이어(engagement layers)를 사용하여 패치 학습에 적합한 이식 가능한 표현을 추출한다.
• 세 가지 훈련 방식을 구현한다: 포괄적(패치와 기본 분류기 모두 사용), 배제적(오류 영역에서만 패치 사용), 반배제적(하이브리드 방식).
• 기본 분류기의 오차 영역이 아니라 패치 네트워크의 오차 영역을 모델링하며, 대부분의 경우 성능 향상이 관찰된다.
• 전이 학습 가중치 대비 무작위 초기화를 사용하여 패치 성능를 평가했으며, 대부분의 상황에서 무작위 초기화가 더 낫다는 것을 발견했다.
• 치명적 잊음을 완화하기 위해 원래 데이터로 재학습하는 리허설(rehearsal) 기법을 오차 추정 네트워크에 적용한다.

실험 결과

연구 질문

• RQ1 깊은 신경망의 어떤 참여 레이어가 효과적인 패치링을 위해 가장 이식 가능한 특징을 제공하는가?
• RQ2 다양한 패치 아키텍처와 훈련 방식(포괄적, 배제적, 반배제적)은 개념 이탈 하에서 적응 성능에 어떤 영향을 미치는가?
• RQ3 기본 분류기의 오차 영역이 아니라 패치 네트워크의 오차 영역을 모델링하면 전체 정확도와 강건성이 향상되는가?
• RQ4 신경망 패치링의 적응 속도와 정확도 복구 측면에서 전이 학습과 비교해 볼 때 성능는 어떻게 되는가?
• RQ5 기본 네트워크 가중치의 전이 학습이 유용한 조건는 무엇인가? 무작위 초기화보다 유리한가?

주요 결과

• 오차 영역 추정의 오류에 강건하기 때문에 포괄적 패치 훈련이 배제적 및 반배제적 방식보다 일관되게 뛰어나다.
• 중간에서 깊은 수준의 참여 레이어(예: 3~5개의 합성곱 블록 이후)가 패치 학습에 가장 이식 가능한 특징을 제공하며, 활성화 함수와 네트워크 아키텍처에 따라 성능가 변동이 있다.
• 기본 분류기의 정확도가 이탈 후 50% 이상 유지되는 경우를 제외하고는, 패치 네트워크를 무작위로 초기화하는 것이 전이 학습보다 더 좋은 결과를 낸다.
• 기본 분류기의 오차 영역이 아니라 패치 네트워크의 오차 영역을 모델링하면 대부분의 상황에서 성능 향상이 이루어지며, 특히 이탈이 점진적인 경우 두드러진다.
• 완전 연결, 합성곱, 잔차 아키텍처 모두에서 신경망 패치링이 전이 학습보다 적응 속도와 복구 순위에서 뛰어나다.
• 잔차 네트워크(ResNets)는 자연스럽게 빠른 적응 능력을 보이며, 이는 아키텍처가 개념 이탈 상황에 본질적으로 적합하다는 것을 시사한다.