[논문 리뷰] An explanation method for Siamese neural networks

Lev V. Utkin, Maxim S. Kovalev외 1명|arXiv (Cornell University)|2019. 11. 18.

Neural Networks and Applications인용 수 5

한 줄 요약

이 논문은 시アン티브 신경망의 임베딩 공간에서 훈련된 전문화된 오토에인코더와 프로토타입 기반 특성 중요도를 활용하여 시앙티브 신경망에 대한 새로운 설명 방법을 제안한다. 이 방법은 입력 벡터를 클래스 프로토타입과 비교하여 핵심 특징을 식별하고, 수정된 오토에인코더를 사용해 입력을 재구성하며, MNIST에서 해석 가능한 샐런시 맵을 통해 효과성을 입증한다.

ABSTRACT

A new method for explaining the Siamese neural network is proposed. It uses the following main ideas. First, the explained feature vector is compared with the prototype of the corresponding class computed at the embedding level (the Siamese neural network output). The important features at this level are determined as features which are close to the same features of the prototype. Second, an autoencoder is trained in a special way in order to take into account the embedding level of the Si-amese network, and its decoder part is used for reconstructing input data with the corresponding changes. Numerical experiments with the well-known dataset MNIST illustrate the propose method.

연구 동기 및 목표

• 유사도 학습에서 널리 사용되지만 설명 방법이 부족한 시앙티브 신경망의 해석 가능성 부족 문제를 해결하기 위해.
• 시앙티브 네트워크의 의사결정 과정에 가장 기여하는 입력 데이터의 주요 특징을 식별하기 위해.
• 시앙티브 네트워크의 임베딩 공간을 재구성 기반 설명 프레임워크와 통합하는 방법을 개발하기 위해.
• 임베딩 수준에서 훈련된 수정된 오토에인코더를 통해 중요한 특징을 시각화할 수 있도록 하기 위해.
• 표준 벤치마크 데이터셋(MNIST)에서의 검증을 통해 시앙티브 네트워크 행동에 대한 신뢰할 수 있는 해석을 가능하게 하기 위해.

제안 방법

• 시앙티브 네트워크의 임베딩 출력 레이어에서 각 클래스에 대해 프로토타입 벡터를 계산하여, 해당 클래스의 모든 임베딩의 중심을 대표한다.
• 입력의 특징은 임베딩 공간에서 프로토타입 벡터의 특징과 높은 상관관계를 보일 경우 중요하다고 간주한다.
• 특화된 오토에인코더를 입력 데이터를 재구성하도록 훈련하며, 잠재 코드는 시앙티브 네트워크의 임베딩 공간에 제약을 둔다.
• 오토에인코더의 디코더를 사용해 입력을 재구성하며, 유사도 결정에 가장 기여하는 특징을 강조하도록 수정한다.
• 재구성 오차와 특성 수준 기여도를 분석하여 설명을 생성하며, 프로토타입에서의 이탈에 초점을 맞춘다.
• 프로토타입 기반 샐런시 맵과 재구성 기반 특성 할당을 결합하여 해석 가능한 설명을 생성한다.

실험 결과

연구 질문

• RQ1 시앙티브 신경망의 유사도 결정에 가장 영향을 미치는 입력 샘플의 영향력 있는 특징을 어떻게 식별할 수 있는가?
• RQ2 임베딩 공간의 클래스 프로토타입을 사용해 시앙티브 네트워크의 특성 중요도 할당을 유도할 수 있는가?
• RQ3 시앙티브 임베딩 공간에서 훈련된 재구성 기반 오토에인코더가 설명의 정밀도를 어느 정도 향상시킬 수 있는가?
• RQ4 제안된 설명 맵은 MNIST에서 해석 가능성과 정확성 측면에서 기준 방법과 어떻게 비교되는가?
• RQ5 이 방법은 노이즈와 관련 없는 픽셀을 억제하면서 이미지 쌍에서 관련 있는 특징을 신뢰성 있게 강조할 수 있는가?

주요 결과

• 제안된 방법은 유사도 결정에 기여하는 숫자의 선분과 같은 의미적으로 관련된 특징을 MNIST 이미지에서 성공적으로 식별한다.
• 프로토타입 기반 접근법으로 생성된 특성 중요도 맵은 인간의 직관과 네트워크 행동에 강력하게 일치한다.
• 재구성 기반 구성 요소는 클래스 프로토타입에서 벗어나는 입력 영역을 효과적으로 강조하여 의사결정에 미치는 영향을 나타낸다.
• MNIST에서의 수치 실험 결과, 다양한 테스트 샘플에 대해 일관되고 해석 가능한 샐런시 맵을 생성함을 입증한다.
• 프로토타입 비교와 오토에인코더 재구성의 통합은 기준 방법보다 더 강력하고 국소화된 설명을 제공한다.
• 임베딩 수준 분석과 입력 수준 재구성의 통합을 통해 시앙티브 네트워크를 해석하는 통합 프레임워크를 제공한다.