[논문 리뷰] Understanding How Encoder-Decoder Architectures Attend

Kyle Aitken, Vinay Ramasesh외 2명|arXiv (Cornell University)|2021. 10. 28.

EEG and Brain-Computer Interfaces참고 문헌 23인용 수 6

한 줄 요약

이 논문은 어텐션 행렬이 어떻게 형성되는지를 설명하기 위해 인코더-디코더 히든 상태를 시간적(시퀀스 위치에 독립적) 및 입력 기반(입력에 의존적) 성분으로 분해하는 방법을 제안한다. 저자들은 네트워크가 어텐션 행렬이 공통 평균에 가까울 경우, 아키텍처에 관계없이 시간적 성분에 더 의존함을 보여주며, 순환형과 피드포워드 모델 간의 다이내믹스가 다르지만 통합된 메커니즘이 존재함을 밝혀낸다.

ABSTRACT

Encoder-decoder networks with attention have proven to be a powerful way to solve many sequence-to-sequence tasks. In these networks, attention aligns encoder and decoder states and is often used for visualizing network behavior. However, the mechanisms used by networks to generate appropriate attention matrices are still mysterious. Moreover, how these mechanisms vary depending on the particular architecture used for the encoder and decoder (recurrent, feed-forward, etc.) are also not well understood. In this work, we investigate how encoder-decoder networks solve different sequence-to-sequence tasks. We introduce a way of decomposing hidden states over a sequence into temporal (independent of input) and input-driven (independent of sequence position) components. This reveals how attention matrices are formed: depending on the task requirements, networks rely more heavily on either the temporal or input-driven components. These findings hold across both recurrent and feed-forward architectures despite their differences in forming the temporal components. Overall, our results provide new insight into the inner workings of attention-based encoder-decoder networks.

연구 동기 및 목표

• 다양한 아키텍처 간 어텐션 행렬 형성 메커니즘을 이해하는 것.
• 히든 상태의 시간적 및 입력 기반 성분이 시퀀스-투-시퀀스 작업에서 어텐션 행동에 어떻게 기여하는지 조사하는 것.
• 구조적 차이가 있음에도 불구하고 순환형과 피드포워드 아키텍처 간 어텐션 다이내믹스가 의미 있게 다를지 여부를 확인하는 것.
• 입력 기반 및 시간적 다이내믹스를 분리할 수 있는 분해 방법을 개발하여 어텐션 메커니즘의 해석 가능성을 향상시키는 것.

제안 방법

• 저자들은 인코더 및 디코더 히든 상태를 입력 시퀀스에 의존하는 성분(입력 기반)과 입력에 독립적인 성분(시간적)으로 두 개의 수직 성분으로 분해한다.
• 선형 투영을 사용하여 히든 상태 벡터를 시간적 성분과 입력 기반 성분의 합으로 분리함으로써 다이내믹스의 분리가 가능해진다.
• 이 분해 방법은 AED(어텐션 기반 인코더-디코더), VED(일반 인코더-디코더), 그리고 어텐션 기반 순환형 변형 모델의 세 가지 아키텍처에 적용된다.
• 각 성분이 어텐션 행렬 형성에 어떻게 기여하는지 분석하며, 특히 대각선 어텐션 행렬과 샘플에 따라 변하는 경우에 초점을 맞춘다.
• 읽기 출력 벡터가 입력 성분과 시간적 다이내믹스와 얼마나 일치하는지 평가하며, 특히 모델 출력의 로짓 기여도 맥락에서 분석한다.
• 합성 작업과 시각화 기법(예: 주성분 분석)을 사용하여 히든 상태 궤적을 추적하고 군집화 행동을 평가한다.

실험 결과

연구 질문

• RQ1 히든 상태의 시간적 및 입력 기반 성분이 인코더-디코더 모델에서 어텐션 행렬 형성에 어떻게 기여하는가?
• RQ2 이 성분들이 다양한 아키텍처(예: 순환형 대비 피드포워드) 간에 얼마나 다를까?
• RQ3 어떤 작업에서 네트워크가 어텐션 행렬을 공통 평균 행렬에 가깝게 형성하는가? 그리고 샘플별 편차는 무엇에 의해 유도되는가?
• RQ4 어텐션 기반 모델에서 디코더 읽기 출력과 컨텍스트 벡터 읽기 출력의 다이내믹스는 어떻게 상호작용하는가?
• RQ5 히든 상태 공간에서 트리 구조와 같은 구조적 패턴이 어떻게 나타나며, 이는 어텐션과 시퀀스 생성과 어떻게 관련되는가?

주요 결과

• 평균 어텐션 행렬이 개별 샘플의 어텐션 행렬을 잘 근사할 경우, 히든 상태의 시간적 성분이 어텐션 행렬 형성에서 지배적인 역할을 한다.
• 어텐션 행렬이 평균에서 크게 벗어날 경우, 입력 기반 성분이 더 중요해지며, 이는 작업에 특화된 정렬 메커니즘이 존재함을 시사한다.
• 시간적 성분 형성 방식이 다름에도 불구하고, 순환형과 피드포워드 아키텍처 모두 유사한 성분 상호작용을 통해 어텐션을 생성함으로써 공통된 기반이 존재함을 시사한다.
• AED 모델에서는 컨텍스트 벡터 읽기 출력이 입력 성분과 거의 정렬되어 있으며, 로짓 차이에 기여하는 정도가 디코더 히든 상태 읽기 출력보다 훨씬 크며, 후자는 거의 수직이 되어 균일하게 기여한다.
• VED 모델에서는 인코더 히든 상태가 히든 공간에서 트리 구조를 형성하며, 서로 다른 입력 어휘에 대해 별도의 경로를 가지지만, 디코더에는 유사한 거울 트리 형태의 구조가 관찰되지 않아 학습 다이내믹스가 다름을 시사한다.
• AED의 디코더 읽기 출력은 컨텍스트 벡터 읽기 출력과 거의 수직이며, 로짓 차이에 기여가 미미하여, 컨텍스트 벡터가 출력 예측의 주요 추진력임을 확인한다.