[논문 리뷰] Introspective Learning : A Two-Stage Approach for Inference in Neural Networks

Mohit Prabhushankar, Ghassan AlRegib|arXiv (Cornell University)|2022. 09. 17.

Explainable Artificial Intelligence (XAI)인용 수 6

한 줄 요약

이 논문은 두 단계의 신경망 추론 프레임워크인 내성 학습을 소개한다. 여기서 주요 전방향 신경망이 초도 결정을 내리고, 그 다음로 기울기들을 내성적 특징으로 사용하여 다른 클래스 예측을 평가하는 반성 단계를 거친다. 이 방법은 노이즈가 있는 데이터에서 정확도를 4% 향상시키고 캘리브레이션 오차를 42% 감소시켜 강건성과 성능을 향상시킨다. 또한 주도적 학습, OOD 탐지 및 불확실성 추정 등에서도 성능 향상을 이룬다.

ABSTRACT

In this paper, we advocate for two stages in a neural network's decision making process. The first is the existing feed-forward inference framework where patterns in given data are sensed and associated with previously learned patterns. The second stage is a slower reflection stage where we ask the network to reflect on its feed-forward decision by considering and evaluating all available choices. Together, we term the two stages as introspective learning. We use gradients of trained neural networks as a measurement of this reflection. A simple three-layered Multi Layer Perceptron is used as the second stage that predicts based on all extracted gradient features. We perceptually visualize the post-hoc explanations from both stages to provide a visual grounding to introspection. For the application of recognition, we show that an introspective network is 4% more robust and 42% less prone to calibration errors when generalizing to noisy data. We also illustrate the value of introspective networks in downstream tasks that require generalizability and calibration including active learning, out-of-distribution detection, and uncertainty estimation. Finally, we ground the proposed machine introspection to human introspection for the application of image quality assessment.

연구 동기 및 목표

• 인간의 인지에 영감을 얻은 두 단계 추론 과정을 도입하여 딥 네트워크의 내성적 추론 부족 문제를 해결하고자 한다.
• 특히 노이즈가 있거나 분포가 이탈된 환경에서의 분포 이탈 상황에서도 모델의 강건성과 캘리브레이션을 향상시키고자 한다.
• 손실 기울기에서 유도된 내성적 특징을 시각화하여 사후 해석 가능성을 제공하고자 한다.
• 기본 네트워크의 재학습 없이도 경량의 두 번째 신경망(Multilayer Perceptron)을 통해 기존 모델을 즉각적으로 향상시킬 수 있도록 플러그인 방식을 제공하고자 한다.
• 내성적 특징이 주도적 학습, OOD 탐지 및 불확실성 정량화와 같은 후행 작업에서 유용하게 활용될 수 있음을 입증하고자 한다.

제안 방법

• 두 단계 추론 프레임워크를 제안한다: 첫 번째로 표준 전방향 네트워크(예: ResNet)가 초도 예측을 수행하고, 두 번째로 반성 단계에서 결정을 평가한다.
• 모든 가능한 클래스에 대해 네트워크 파라미터에 대한 손실의 기울기들을 내성적 특징으로 사용하여 각 클래스에 대한 네트워크의 내부 추론 과정을 캡처한다.
• 모든 N개의 내성적 기울기 특징(각 클래스별로 하나)을 조합하여 개선된 예측 ŷ를 생성하기 위해, 세 층으로 구성된 소형 다층퍼셉트론 ℋ(⋅)을 사용한다.
• 내성적 특징을 Grad-CAM을 사용하여 시각화하여 반성 과정의 직관적 기반과 해석 가능성을 제공한다.
• 기존 모델에 대한 플러그인 모듈로 내성 헤드를 적용하여 기본 네트워크의 재학습이 필요 없도록 한다.
• 사후 기울기를 활용하여 모든 대체 클래스 y_I에 대해 '왜 y_I 가 아닐까?'라는 질문에 암묵적으로 답함으로써 외부 지도 없이도 반성 기능을 가능하게 한다.

실험 결과

연구 질문

• RQ1 신경망의 내부 기울기가 자신의 예측에 대한 내성적 추론 신호로 신뢰할 수 있는가?
• RQ2 감지 후 반성 단계를 거치는 두 단계 추론 과정을 도입함으로써 분포 이탈 상황에서 모델의 강건성과 캘리브레이션 성능이 향상되는가?
• RQ3 기울기에서 파생된 내성적 특징이 주도적 학습 및 OOD 탐지와 같은 후행 작업의 성능 향상에 기여하는가?
• RQ4 기존의 불확실성 정량화 및 캘리브레이션 기법과 비교했을 때 내성 학습의 정확성과 신뢰성은 어떠한가?
• RQ5 내성적 특징이 인간이 이해할 수 있는 방식으로 모델의 결정에 대한 설명을 제공할 수 있는 정도는 어느 정도인가?

주요 결과

• 표준 전방향 네트워크와 비교해 내성 모델은 노이즈가 있는 데이터로 일반화할 때 강건성을 4% 향상시키고 캘리브레이션 오차를 42% 감소시켰다.
• MULTI-LIVE 및 TID2013 이미지 품질 평가 데이터셋에서, RMSE, PLCC, SRCC, KRCC 등 모든 지표에서 최고 또는 2위 성능을 기록하였다.
• 내성 ResNet-18는 인식 정확도(0.45 vs. 0.30)와 불확실성 지표(로그우도: -2.97 vs. -15.54) 모두에서 TENT을 능가했으며, 베이지안 기반 모델과 동일한 불확실성 캘리브레이션 성능를 달성했다.
• 기본 네트워크는 동일한 데도 내성 헤드의 도입으로 성능이 크게 향상되었으며, 예를 들어 MULTI 데이터셋에서 RMSE는 1.315, PLCC는 0.036, SRCC는 0.020 향상되었다.
• 모든 평가에서 최소한 한 지표에서 기준 모델보다 통계적으로 유의미하게 뛰어나며, 어떤 경우에도 경쟁력이 떨어지지 않았다.
• Grad-CAM을 사용한 내성적 특징의 시각화 결과, 반성 단계가 모든 후보 클래스에 대해 분류에 기여하는 영역에 집중하고 있음을 보여주었다.