[논문 리뷰] Compositional properties of emergent languages in deep learning

Bence Keresztury, Elia Bruni|arXiv (Cornell University)|2020. 01. 23.

Language and cultural evolution참고 문헌 15인용 수 4

한 줄 요약

이 논문은 다중 에이전트 딥 강화 학습에서 부상하는 언어의 조합적 성질을 체계적 일반화와 표현 분리도 테스트를 통해 조사한다. 훈련에 사용되지 않은 물체 조합을 가진 시각적 질의 응답 과제를 통해, 에이전트가 훈련 분포를 초월해 일반화하지 못하고, 추상적이고 조합적인 표현을 인코딩하지 못함을 발견한다. 대신 데이터셋에 특화된 규칙에 의존함으로써, 외관상의 의사소통 성공에도 불구하고 조합적 추론 능력은 제한되어 있음을 시사한다.

ABSTRACT

Recent findings in multi-agent deep learning systems point towards the emergence of compositional languages. These claims are often made without exact analysis or testing of the language. In this work, we analyze the emergent language resulting from two different cooperative multi-agent game with more exact measures for compositionality. Our findings suggest that solutions found by deep learning models are often lacking the ability to reason on an abstract level therefore failing to generalize the learned knowledge to out of the training distribution examples. Strategies for testing compositional capacities and emergence of human-level concepts are discussed.

연구 동기 및 목표

• 다중 에이전트 딥 러닝 시스템에서 부상하는 언어가 진정으로 조합적 일반화를 보이는지 엄격히 테스트하는 것.
• 에이전트가 인간 수준의 추상적 개념을 학습하는지 아니면 단지 데이터셋에 특화된 규칙을 이용하는지 평가하는 것.
• 학습된 메시지와 네트워크 전반의 활성화 상태의 표현적 구조를 평가하여 분리된, 재사용 가능한 지식의 증거를 찾는 것.
• 시각적 검토나 수동 레이블링에 기반한 조합성 주장에 도전하기 위해 체계적인 진단 테스트를 도입하는 것.
• 부상하는 언어 연구에서 더 견고한 메트릭과 분포 외 일반화 벤치마크를 도입할 것을 주장하는 것.

제안 방법

• 연구는 훈련 중에 나타나지 않은 물체와 관계의 조합을 가진 시각적 질의 응답 과제(SQOOP)를 사용하여 체계적 일반화를 테스트한다.
• 코사인 거리 상관계수를 사용하여 시각적 표현, 송신자 표현, 수신자 표현 간의 표현 유사도를 측정한다.
• 메시지 임베딩에 기반한 진단 분류기를 훈련시켜 통신에서 문자의 신원을 복원할 수 있는지 테스트한다.
• 이미지당 문자 수(1~5개)를 다양하게 설정하여 조합성의 확장성 평가를 수행한다.
• 대상 간 및 레이어 간 표현 공간 간의 정렬 정도를 평가하기 위해 위상 유사도 점수를 계산한다.
• 훈련 중에 나타나지 않은 물체-관계 조합을 사용하여 분포 외 일반화를 테스트한다.

실험 결과

연구 질문

• RQ1 부상하는 언어는 알려진 물체와 관계의 새로운 조합에 얼마나 잘 일반화할 수 있는가?
• RQ2 에이전트는 메시지에 개별 문자의 분리된, 추상적인 표현을 인코딩하는가?
• RQ3 송신자 및 수신자 네트워크의 표현은 시각적 입력과 상호간에 얼마나 잘 정렬되어 있는가?
• RQ4 진단 분류기는 메시지 임베딩에서 문자의 신원을 재구성할 수 있는가? 이는 조합적 구조가 존재하는지를 시사한다.
• RQ5 이산적 의사소통 병목 현상의 존재가 체계적 일반화에 도움이 되는지, 아니면 방해가 되는가?

주요 결과

• 에이전트는 물체와 관계의 분포 외 조합에 대해 일반화하지 못하여 체계적 일반화 능력이 떨어짐을 보여준다.
• 진단 분류기는 메시지 임베딩에서 문자의 신원을 복원할 수 없었으며, 이는 메시지가 분리된, 조합적인 특징을 인코딩하지 않음을 보여준다.
• 표현 유사도 점수는 송신자 및 수신자 표현 간에 부분적인 정렬만을 보이며, 시각적 입력과 수신자 표현 간의 정렬 오차가 점점 커진다.
• 가장 높은 표현 정렬은 5개 문자 조건에서 관찰되며, 이는 에이전트가 추상적 개념보다는 저수준 특징에 집중할 수 있음을 시사한다.
• 시각적 표현도 이미지의 고수준 개념적 특성을 완전히 포착하지 못하여 추상적 언어의 부상에 제약을 끼친다.
• 결과적으로, 부상하는 의사소통는 종종 데이터셋에 특화된 규칙에 의존할 뿐만 아니라 재사용 가능한 조합적 규칙을 학습하지는 않는 것으로 나타난다.