[논문 리뷰] Identifying and Controlling Important Neurons in Neural Machine Translation

Anthony Bau, Yonatan Belinkov외 4명|arXiv (Cornell University)|2018. 11. 03.

Natural Language Processing Techniques인용 수 110

한 줄 요약

이 논문은 다중 언어 쌍에 걸친 NMT 모델에서 중요한 뉴런을 식별하고 분석하는 비지도 방법을 개발하여, 이들 뉴런이 해석 가능한 언어 정보를 담고 있으며 뉴런 활성화에 의한 부분적 번역 제어를 가능하게 한다고 보여준다.

ABSTRACT

Neural machine translation (NMT) models learn representations containing substantial linguistic information. However, it is not clear if such information is fully distributed or if some of it can be attributed to individual neurons. We develop unsupervised methods for discovering important neurons in NMT models. Our methods rely on the intuition that different models learn similar properties, and do not require any costly external supervision. We show experimentally that translation quality depends on the discovered neurons, and find that many of them capture common linguistic phenomena. Finally, we show how to control NMT translations in predictable ways, by modifying activations of individual neurons.

연구 동기 및 목표

• NMT 모델의 개별 뉴런이 중요하고 해석 가능한 언어 정보를 담고 있는지 판단한다.
• NMT 모델의 기여도에 따라 뉴런을 외부 지도 없이 순위 매기는 비지도 방법을 개발한다.
• 선정된 뉴런을 활성화시키거나 제거하여 번역 결과에 예측 가능한 영향을 미칠 수 있는지 조사한다.

제안 방법

• UN 코퍼스에서 charCNN 입력을 사용한 영어→(5개 언어) NMT 모델들을 다수 학습시킨다.
• MaxCorr, MinCorr, LinReg, SVCCA의 네 가지 비지도 방법을 사용하여 모델 쌍 간의 뉴런을 순위를 매긴다.
• 제거 실험과 BLEU 평가를 통해 뉴런의 중요성을 확인한다.
• 시각화와 예측 과제를 통해 상위 뉴런들이 포착하는 언어적 속성을 분석한다.
• 선정된 뉴런의 활성화를 수정하여 번역을 제어하는 것을 시연하고 성공률과 BLEU 영향력을 평가한다.

실험 결과

연구 질문

• RQ1 제거했을 때 번역 품질에 상당한 영향을 미치는 NMT 모델의 개별 뉴런이 존재하는가?
• RQ2 상위 순위의 뉴런들이 시제, 수, 성별 등 해석 가능한 언어 정보를 인코딩하는가?
• RQ3 특정 뉴런의 활성화를 수정하여 번역을 예측 가능하게 조정할 수 있는가?

주요 결과

• 상위 순위의 뉴런을 지우면 번역 품질이 크게 저하되며, MaxCorr, MinCorr, LinReg의 경우 상위 10%를 제거했을 때 BLEU가 15–20포인트 감소하는 반면 하위 10%를 제거했을 때는 2–3포인트 감소한다.
• 상위 SVCCA 방향은 빠른 저하를 야기하며(5 방향에 대해 대략 15 BLEU 포인트, 방향의 1%), 특정 단어와 정렬되는 경향이 있다.
• MaxCorr는 위치 관련 정보를 드러내는 경향이 있으며, LinReg와 SVCCA는 단어 정체성 특성을 포착한다; 많은 상위 뉴런들이 시제, 수, 괄호 관련 토큰 등을 인코딩한다.
• 선정된 뉴런의 활성화를 수정하여 번역에 영향을 줄 수 있으며, 시제(과거에서 현재) 변경에서 최대 67%의 성공률을 달성하고 BLEU 손실은 약 2포인트 정도로 modest, 그러나 성별 제어는 더 어렵다(약 21%의 성공).
• 뉴런은 종종 모델들 간에 언어적으로 의미 있는 현상에 대응하며, NMT의 정보 중 일부가 완전히 분산되지 않고 해석 가능한 단위에 국한되어 있음을 뒷받침한다.