[논문 리뷰] Catalytic Role Of Noise And Necessity Of Inductive Biases In The Emergence Of Compositional Communication

Łukasz Kuciński, Tomasz Korbak외 2명|arXiv (Cornell University)|2021. 11. 11.

Cognitive Science and Education ResearchNeuroscience인용 수 20

한 줄 요약

이 논문은 다중 에이전트 신호 게임에서 통신 채널의 노이즈가 기초적인 편향이 훈련 프레임워크와 데이터에 존재할 경우 구성적 언어의 출현을 촉진하는 촉매 역할을 한다고 보여준다. 이론적으로도 실험적으로도 특정 범위의 노이즈 수준—모델과 데이터에 따라 달라지는—이 상위 지도 유사도, 갈등 수, 맥락 독립성으로 측정된 구성성의 향상을 이끈다.

ABSTRACT

Communication is compositional if complex signals can be represented as a combination of simpler subparts. In this paper, we theoretically show that inductive biases on both the training framework and the data are needed to develop a compositional communication. Moreover, we prove that compositionality spontaneously arises in the signaling games, where agents communicate over a noisy channel. We experimentally confirm that a range of noise levels, which depends on the model and the data, indeed promotes compositionality. Finally, we provide a comprehensive study of this dependence and report results in terms of recently studied compositionality metrics: topographical similarity, conflict count, and context independence.

연구 동기 및 목표

• 다중 에이전트 신호 게임에서 구성적 의사소통이 자발적으로 출현하는 조건을 조사하는 것.
• 기초적인 편향 없이 순수하게 비지도 학습을 통해 구성성이 나타날 수 있다는 오해를 도전하는 것.
• 노이즈가 구성적 의사소통 프로토콜의 출현을 촉진하는 데서 수행하는 역할를 조사하는 것.
• 네트워크 아키텍처, 훈련 절차, 데이터 전처리에서의 기초적인 편향이 구성성 지표에 미치는 영향을 평가하는 것.
• 노이즈 정규화된 의사소통 프로토콜의 제로샷 및 피처샷 설정에서의 일반화 능력을 평가하는 것.

제안 방법

• 이론적 분석을 통해 훈련 프레임워크와 데이터 양쪽에 기초적인 편향이 존재할 때에만 신호 게임에서 구성성이 나타나야 한다는 것을 증명한다.
• 노이즈가 제어된 수준으로 통신이 이루어지는 노이즈 정규화된 훈련 설정을 도입한다.
• 손실 함수와 네트워크 아키텍처에 기초적인 편향을 포함시켜 분리된, 구성적인 표현을 장려한다.
• 기존에 알려진 지표인 상위 지도 유사도, 갈등 수, 맥락 독립성을 사용해 구성성을 평가한다.
• 노이즈 수준, 데이터 뒤섞기(시각적 및 텍스처적), 아키텍처 변형(예: 잔차 연결)에 대한 분석 실험을 포함한다.
• 제로샷 및 파인튜닝 프로토콜을 사용해 분포 외 예측에 대한 일반화를 테스트하며, 점진적인 훈련 업데이트 동안 지표를 추적한다.

실험 결과

연구 질문

• RQ1 다중 에이전트 신호 게임에서 구성성이 자발적으로 출현하는 조건은 무엇인가?
• RQ2 기초적인 편향과 결합되었을 때 노이즈가 구성적 의사소통을 촉진하는 데서 수행하는 촉매 역할은 무엇인가?
• RQ3 아키텍처, 훈련 절차, 데이터에 대한 다양한 기초적인 편향이 구성성의 출현에 어떤 영향을 미치는가?
• RQ4 노이즈 정규화된 훈련이 제로샷 및 피처샷 설정에서 일반화에 얼마나 기여하는가?
• RQ5 제안된 프레임워크는 비합성 데이터셋으로 일반화 가능한가? 그리고 다양한 노이즈 수준에서 구성성 지표는 어떻게 변화하는가?

주요 결과

• 기초적인 편향이 훈련 프레임워크와 데이터 양쪽에 존재할 때에만 구성성이 나타나며, 이는 순수하게 비지도 학습을 통해 구성성이 나타날 수 있다는 생각을 도전한다.
• 기초적인 편향과 함께 통신 채널의 노이즈가 구성성을 촉진하는 촉매 역할을 하며, 특정 최적 범위의 노이즈 수준에서 구성성이 가장 높아진다.
• 상위 지도 유사도, 갈등 수, 맥락 독립성 지표 모두 노이즈 정규화된 훈련에서 유의미한 향상을 보이며, 중간 수준의 노이즈에서 최고 성능을 기록한다.
• 송신자 네트워크는 분리된 표현을 학습하며, t-SNE 시각화 결과에서 원시 데이터에 비해 잠재 공간에서 특징 차원의 분리가 더 명확하게 나타난다.
• 제로샷 일반화 성능은 열악하지만, 단지 50회의 추가 네트워크 업데이트로 파인튜닝을 수행하면 구성성 지표가 크게 향상되며, 이는 훈련 프로토콜에서 강력한 기초적인 편향이 있음을 시사한다.
• 시각적 입력이나 그에 해당하는 텍스처적 설명을 뒤섞을 경우 구성성이 감소하며, 이는 데이터 수준의 기초적인 편향이 구조적 의사소통의 출현에 핵심적임을 확인한다.