[論文レビュー] Anti-efficient encoding in emergent communication

Rahma Chaabouni, Eugene Kharitonov+2 more|arXiv (Cornell University)|May 29, 2019

Language and cultural evolution参考文献 38被引用数 68

ひとこと要約

本論文は、2つのニューラルエージェントが自発的に反効率的エンコーディングを発展させることを示しており、頻度が高い入力ほど長いメッセージへ写像され、Zipf’s Law of Abbreviation に反する。長さペナルティが話者に追加されない限り。

ABSTRACT

Despite renewed interest in emergent language simulations with neural networks, little is known about the basic properties of the induced code, and how they compare to human language. One fundamental characteristic of the latter, known as Zipf's Law of Abbreviation (ZLA), is that more frequent words are efficiently associated to shorter strings. We study whether the same pattern emerges when two neural networks, a "speaker" and a "listener", are trained to play a signaling game. Surprisingly, we find that networks develop an \emph{anti-efficient} encoding scheme, in which the most frequent inputs are associated to the longest messages, and messages in general are skewed towards the maximum length threshold. This anti-efficient code appears easier to discriminate for the listener, and, unlike in human communication, the speaker does not impose a contrasting least-effort pressure towards brevity. Indeed, when the cost function includes a penalty for longer messages, the resulting message distribution starts respecting ZLA. Our analysis stresses the importance of studying the basic features of emergent communication in a highly controlled setup, to ensure the latter will not strand too far from human language. Moreover, we present a concrete illustration of how different functional pressures can lead to successful communication codes that lack basic properties of human language, thus highlighting the role such pressures play in the latter.

研究の動機と目的

• ニューラルエージェントにおける創発的コミュニケーションコードが、べき法則的な入力分布の下で Zipf’s Law of Abbreviation (ZLA) に従うかを調査する。
• 単純な signaling ゲームにおけるメッセージ長分布を、話者とリスナーの圧力がどのように形作るかを評価する。
• 長さペナルティを追加することが創発的エンコーディングにどのような影響を及ぼし、人間の言語効率と整合するかを分析する。
• 創発的コードが効率的参照（Optimal Code）または Monkey Typing 分布に似ているかを検討し、自然言語と比較する。

提案手法

• パワー法則分布から抽出された1000の入力タイプを用いた Lewis signaling game を設定する。
• 定義された maxlen の下で eos で終わるメッセージを符号化/復号する、単層の LSTMs で構成された話者とリスナーを用いる。
• 離散的なメッセージチャネルを訓練するため、ランニングベースラインとエントロピー正則化を用いた REINFORCE に似た勾配で最適化する。
• 創発的エンコーディングを参照分布：Optimal Code (OC)、Monkey Typing (MT)、および自然言語と、異なるアルファベットサイズ a と maxlen に渡って比較する。
• ZLAを促進する効果を検証するため、長さペナルティの有無で実験する。
• 訓練後の全入力に対する正確さで成功を評価し、メッセージ長分布を分析する。

実験結果

リサーチクエスチョン

• RQ1 パワー法則分布の入力に対して創発的コードは Zipf’s Law of Abbreviation を示すか、あるいは反効率的パターンを示すか。
• RQ2 観測されたエンコーディングパターンを生む話者・リスナー動態の偏りは何か。
• RQ3 長いメッセージにペナルティを課すことで、ヒトの言語に似た効率的エンコーディング（ZLA）を回復できるか。
• RQ4 創発的メッセージ特性（unigram/bigram 分布）は、自然言語およびコントロールモデルとどのように比較されるか。

主な発見

• 創発的コミュニケーションは反効率的エンコーディングを生み出す。頻度の高い入力はより長いメッセージに写像され、ほとんどのメッセージが maxlen に近づく。
• 訓練されていない話者はランダム/一様生成器のように振る舞い、リスナー主導の効果が反効率的パターンを形作ることを示唆する。
• 訓練されていないリスナーは、創発的なメッセージが他のエンコードより識別可能な表現を生み出すことを示し、長いメッセージへのリスナーのバイアスが識別を助けることを示唆する。
• 話者に長さペナルティを課すと ZLA に類似した分布となり、機能的圧力が効率的エンコーディングへと誘導し得ることを示す。
• 記号レベルの解析は、創発的メッセージが歪んだ unigram 分布と強い bigram の反復を発展させることを明らかにし、ランダムな組み合わせを超えた音韻的制約のような性質を示唆する。
• 複数構成の実験は、反効率的パターンが設定を超えて頑健であり、圧力なしには人間言語で一般的ではないことを確認する。