[논문 리뷰] Emergent Translation in Multi-Agent Communication

Jason Lee, Kyunghyun Cho외 2명|arXiv (Cornell University)|2017. 10. 12.

Multimodal Machine Learning Applications참고 문헌 40인용 수 40

한 줄 요약

이 논문은 병렬 어휘자료가 없는 상황에서 시각 기반 대화를 통해 언어 간 번역을 학습하는 다중 에이전트 통신 프레임워크를 제안한다. 공유된 시각 모odal을 통해 참조 작업을 공동으로 해결함으로써 에이전트들은 임의로 번역 능력을 발달시키며, 베이스라인을 능가하고 다국어 커뮤니티에서 더 빠르고 효과적인 학습을 보인다.

ABSTRACT

While most machine translation systems to date are trained on large parallel corpora, humans learn language in a different way: by being grounded in an environment and interacting with other humans. In this work, we propose a communication game where two agents, native speakers of their own respective languages, jointly learn to solve a visual referential task. We find that the ability to understand and translate a foreign language emerges as a means to achieve shared goals. The emergent translation is interactive and multimodal, and crucially does not require parallel corpora, but only monolingual, independent text and corresponding images. Our proposed translation model achieves this by grounding the source and target languages into a shared visual modality, and outperforms several baselines on both word-level and sentence-level translation tasks. Furthermore, we show that agents in a multilingual community learn to translate better and faster than in a bilingual communication setting.

연구 동기 및 목표

• 병렬 어휘자료가 부족하거나 이용할 수 없는 저자원 언어 번역 문제를 해결한다.
• 에이전트 간의 기반화된 상호작용적 대화에서 자연스럽게 번역이 유도되는지 탐구한다.
• 이중어 커플 대비 다국어 커뮤니티의 에이전트가 번역 성능을 향상시키는지 조사한다.
• 기존 병렬 텍스트나 전문 번역 데이터에 의존하지 않는 제로샷 번역 접근법을 개발한다.
• 시각 기반의 다중 모odal 기반으로 명시적 병렬 감독 없이도 효과적인 교차 언어 정렬이 가능함을 입증한다.

제안 방법

• 한쪽 에이전트가 자신의 모국어로 이미지를 묘사하고, 다른 쪽 에이전트가 그 집합에서 정확한 이미지를 선택하는 양방향 시각 기반 참조 게임에서 두 에이전트를 훈련한다.
• 연속 벡터가 아닌 이산 기호 시퀀스를 사용해 자연어의 기원을 시뮬레이션한다.
• 이미지 인코더와 언어 인코더를 함께 훈련시켜 원천 언어와 목표 언어를 공통된 시각 공간에 기반화한다.
• 청취자 피드백과 참조 이미지의 진짜 레이블을 포함하는 통합 훈련 목표를 사용해 발화자 성능을 향상시킨다.
• 세 에이전트(영어, 독일어, 프랑스어)로 구성된 다국어 커뮤니티로 프레임워크를 확장하여 각각 다른 두 언어를 동시에 학습한다.
• 공정한(동일한 데이터 노출)과 완전한(목표 쪽 데이터가 더 많음) 두 가지 커뮤니티 훈련 설정을 구현하여 데이터 효율성과 학습 속도를 연구한다.

실험 결과

연구 질문

• RQ1 병렬 어휘자료 없이도 시각 환경에 기반한 다중 에이전트 상호작용에서 번역이 부산물로 나타날 수 있는가?
• RQ2 공유된 시각 모달이 교차 언어 정렬과 번역 능력에 어떻게 기여하는가?
• RQ3 다국어 커뮤니티에서 훈련하면 이중어 커플 대비 더 빠르고 우수한 번역 성능을 달성할 수 있는가?
• RQ4 훈련 데이터의 양과 분포가 번역 기술의 유도에 어떤 영향을 미치는가?
• RQ5 예를 들어 제로자원 설정에서 외국어에 대한 사전 지식이 없더라도 에이전트가 번역을 학습할 수 있는가?

주요 결과

• 제안된 모델은 단어 수준과 문장 수준 번역 작업에서 비통신 기반 베이스라인과 최근접 이웃 방법보다 우수한 성능을 보였다.
• 다국어 커뮤니티 설정에서 '완전한' 모델은 DE-EN 번역에서 BLEU 점수 7.21을 기록했으며, 단일 쌍 모델(5.36)과 공정한 커뮤니티 모델(5.56)을 크게 앞섰다.
• '완전한' 커뮤니티 모델은 모든 언어 쌍에서 최고 점수를 기록했으며, FR-EN에서 8.10 BLEU, DE-FR에서 6.55 BLEU를 기록하여 목표 쪽 데이터 노출 증가가 번역 성능 향상에 기여함을 시사했다.
• 학습 곡선 분석 결과, '완전한' 커뮤니티 모델은 단일 쌍 모델과 공정한 커뮤니티 모델보다 더 빠르게 학습하는 것으로 나타나, 데이터 다양성이 학습 속도를 가속화함을 시사했다.
• 에이전트는 클링온과 같은 제로자원 설정에서도 번역을 학습할 수 있었으며, 사전 언어 지식 없이도 강건한 성능을 보였다.
• 다국어 커뮤니티에서의 에이전트는 이중어 설정 대비 더 잘하고 더 빨리 학습함을 확인하여 다양한 언어 상호작용의 이점이 있음을 입증했다.