[논문 리뷰] Contrastive Reasoning in Neural Networks

Mohit Prabhushankar, Ghassan AlRegib|arXiv (Cornell University)|2021. 03. 23.

Explainable Artificial Intelligence (XAI)참고 문헌 55인용 수 6

한 줄 요약

이 논문은 신경망에서 추론을 추론의 재구성으로 재정의함으로써 대조적 추론을 제안한다. 이는 네트워크의 가중치 다양체에서 입력 데이터와 학습된 클래스 의존성 간의 특징 수준 대조를 식별함으로써 이루어지며, 알려진 원인 패턴에서의 이탈로 형식화된 이러한 대조를 추출하고 활용함으로써 분포 이탈 상황에서의 강건성을 향상시킨다. 이 방법은 CIFAR-10C, 노이즈가 있는 STL-10, VisDA에서 왜곡 및 도메인 이탈 조건 하에서 평균 3.47–5.48%의 정확도 향상을 달성한다.

ABSTRACT

Neural networks represent data as projections on trained weights in a high dimensional manifold. The trained weights act as a knowledge base consisting of causal class dependencies. Inference built on features that identify these dependencies is termed as feed-forward inference. Such inference mechanisms are justified based on classical cause-to-effect inductive reasoning models. Inductive reasoning based feed-forward inference is widely used due to its mathematical simplicity and operational ease. Nevertheless, feed-forward models do not generalize well to untrained situations. To alleviate this generalization challenge, we propose using an effect-to-cause inference model that reasons abductively. Here, the features represent the change from existing weight dependencies given a certain effect. We term this change as contrast and the ensuing reasoning mechanism as contrastive reasoning. In this paper, we formalize the structure of contrastive reasoning and propose a methodology to extract a neural network's notion of contrast. We demonstrate the value of contrastive reasoning in two stages of a neural network's reasoning pipeline : in inferring and visually explaining decisions for the application of object recognition. We illustrate the value of contrastively recognizing images under distortions by reporting an improvement of 3.47%, 2.56%, and 5.48% in average accuracy under the proposed contrastive framework on CIFAR-10C, noisy STL-10, and VisDA datasets respectively.

연구 동기 및 목표

• 분포 이탈 및 데이터 왜곡 상황에서 피드포워드 및 인도크티브 추론 방식의 일반화 실패 문제를 해결하기 위해.
• 효과에서 원인으로 이르는 추론을 기반으로 한 새로운 추론 패러다임인 대조적 추론을 형식화하기 위해.
• 모델 내부의 대조 개념을 추출하고 이를 강건하고 설명 가능한 의사결정의 기초로 활용하기 위해.
• 기존 클래스 다양체에서의 특징 수준의 이탈을 식별함으로써 모델의 강건성을 향상시키고 시각적 설명을 제공하기 위해.
• 대조적 추론이 저자료 및 분포 외 설정에서 표준 피드포워드 추론보다 우수한 성능을 보임을 입증하기 위해.

제안 방법

• 학습된 네트워크의 고차원 공간에서 입력 특징이 알려진 클래스별 가중치 다양체에서 벗어나는 정도로 대조를 형식화하기 위해.
• 네트워크의 로짓에 대한 입력 특징에 대한 기울기를 계산하여 대조적 특징을 추출함으로써, 입력 변화가 클래스 예측에 어떻게 영향을 미치는지 식별하기 위해.
• 네트워크가 생성한 다수의 클래스 예측에서 가설 집합 ℋ를 구성하고, 각 예측을 입력에 대한 잠재적 설명으로 간주하기 위해.
• 대조적 이탈의 크기와 방향에 기반하여 가장 타당성이 높은 가설(클래스)을 선택함으로써 추론을 수행하기 위해.
• 재학습 없이 사전 학습된 피드포워드 네트워크 위에 대조적 추론 메커니즘을 플러그인 방식으로 통합하기 위해.
• 기존 클래스 다양체에서의 대조적 이탈에 기여하는 입력 영역을 강조하여 대조적 설명을 시각화하기 위해.

실험 결과

연구 질문

• RQ1 사전 학습된 신경망 내부의 암묵적 대조를 형식화하고 분포 이탈 조건 하에서 추론 향상에 활용할 수 있는가?
• RQ2 효과에서 원인으로 이르는 추론을 기반으로 한 대조적 추론은 표준 피드포워드 및 인도크티브 추론에 비해 강건성을 어떻게 향상시키는가?
• RQ3 비히어리스틱한 방식 없이 기울기 기반으로 대조적 특징을 추출할 수 있는가? 이는 신뢰할 수 있고 설명 가능한 모델 결정을 가능하게 하는가?
• RQ4 대조적 추론은 재학습 없이 손상되거나 분포 외 데이터에서 성능 향상에 얼마나 기여하는가?
• RQ5 대조적 추론은 원인 추론을 보완하는 의미 있는 시각적 설명을 제공할 수 있는가?

주요 결과

• CIFAR-10C에서 다양한 왜곡 조건 하에서 대조적 추론은 평균 3.47%의 정확도 향상을 보이며, 데이터 손상에 대한 강건성을 입증한다.
• 노이즈가 있는 STL-10에서 대조적 추론은 평균 2.56%의 정확도 향상을 달성했으며, 고수준의 흐림 왜곡 조건에서는 최대 6.89% 향상되었다.
• VisDA의 합성에서 실세계로의 도메인 이탈 벤치마크에서 대조적 추론은 전체 정확도에서 5.48%의 절대적 향상을 기록했다.
• 기본 네트워크가 왜곡된 데이터로 학습된 경우에도, 대조적 추론은 모든 왜곡 조건에서 평균 1.12%의 정확도 향상을 보였으며, 최고 왜곡 수준에선 6.87%의 향상을 기록했다.
• 클래스당 300장의 훈련 이미지만으로도 성능을 유지하거나 향상시켜, 저자료 환경에서의 강력한 일반화 능력을 보였다.
• 대조적 추론에서 유도된 시각적 설명은 클래스 예측에 가장 기여하는 입력 영역을 강조하여, 표준 활성화 맵을 초월한 해석 가능성을 제공한다.