[論文レビュー] Emergent Communication of Generalizations

Jesse Mu, Noah D. Goodman|arXiv (Cornell University)|Jun 4, 2021

Multimodal Machine Learning Applications参考文献 28被引用数 8

ひとこと要約

本稿では、集合の一般化に基づく通信ゲーム（setref）と概念ベースの通信ゲーム（concept games）を提案し、従来のLewisスタイルの参照ゲームを拡張することで、人工エージェントが集合的対象の一般化に基づいて体系的で構成的かつ解釈可能な言語を学習できるようにする。この手法は言語の体系的性と解釈可能性を向上させ、発生言語に埋め込まれた論理的演算を特定する構成的再構成手法ACReを導入し、単なる参照を超えた構造的かつ学習可能な構成的性質を明らかにする。

ABSTRACT

To build agents that can collaborate effectively with others, recent research has trained artificial agents to communicate with each other in Lewis-style referential games. However, this often leads to successful but uninterpretable communication. We argue that this is due to the game objective: communicating about a single object in a shared visual context is prone to overfitting and does not encourage language useful beyond concrete reference. In contrast, human language conveys a rich variety of abstract ideas. To promote such skills, we propose games that require communicating generalizations over sets of objects representing abstract visual concepts, optionally with separate contexts for each agent. We find that these games greatly improve systematicity and interpretability of the learned languages, according to several metrics in the literature. Finally, we propose a method for identifying logical operations embedded in the emergent languages by learning an approximate compositional reconstruction of the language.

研究の動機と目的

• 標準の参照ゲームで訓練された発生通信言語に見られる体系的性と解釈可能性の欠如に対処すること。
• 単一対象の参照ではなく、複数の対象の集合の一般化を促すことで、抽象的で構成的な言語の出現を促進するかを調査すること。
• 発生人工言語に埋め込まれた論理的演算を特定・分析するための手法を開発すること。
• より豊かな、組み合わせ的に大きな概念空間が、人工エージェントに人間のような言語行動をもたらすかを評価すること。
• 発生言語の構成的構造を近似することで、発生言語を解釈するためのツール（ACRe）を提供すること。

提案手法

• Lewisスタイルの信号ゲームを集合参照（setref）ゲームに拡張し、両エージェントが同じ入力集合を観察するが、1つの概念に対して複数のターゲットが存在する。
• 教師と生徒が同じ概念の異なる例示を観察する概念ゲームを導入し、未観測のインスタンス間での一般化を要請する。
• 入力をエンコードし、メッセージを生成するCNNベースの教師モデルを用い、ターゲットと干渉要因のプロトタイプ埋め込みを注意に基づくプーリングで形成する。
• メッセージと入力を用いてターゲット所属を予測する学生モデルを採用し、シーケンス・ツー・シーケンスアーキテクチャと交差エントロピー損失を用いる。
• ACRe（近似構成的再構成）を提案し、原始的概念入力を用いてメッセージを再構成するseq2seqモデルとして、発生言語に埋め込まれた論理的演算を特定する。
• 言語の体系的性をTRE、ACRe、構成的正確性といった指標を用いて評価し、参照ゲーム、setrefゲーム、概念ゲームの設定間で性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 単一対象の参照ゲームと比較して、集合の一般化を要請することで、より体系的かつ解釈可能な発生言語が出現するか？
• RQ2 教師と生徒が同じ概念の異なる例示を観察する概念ゲームは、抽象的で構成的な言語の出現を促進できるか？
• RQ3 発生人工言語に埋め込まれた論理的演算（例：論理積、論理和）はどのようなものか、そしてそれらを特定・再構成できるか？
• RQ4 特に一般化性と解釈可能性の観点から、異なるゲーム設計における発生言語の構成的構造はどのように比較されるか？
• RQ5 完全に構成的でない場合でも、ACReは発生言語に埋め込まれた構成的演算を信頼性高く近似できるか？

主な発見

• setrefゲームと概念ゲームは、標準の参照ゲームと比較して、複数の構成的性指標を用いた測定において、発生言語の体系的性と解釈可能性を顕著に向上させる。
• ACRe手法は、発生言語に埋め込まれた論理的演算（論理積、論理和など）を効果的に特定・再構成でき、これらの言語が構造的で構成的な意味論をエンコードしていることを示している。
• 概念ゲームで学習された言語は、参照ゲームよりも高い構成的正確性と、未観測の組み合わせへのより優れた一般化性能を示す。
• 概念ゲームにおける共有入力または非共有入力の使用は、偶然的な視覚的特徴への依存を避けて、より抽象的でカテゴリレベルの表現を生み出す。
• ACReはTREなどのベースライン指標を上回り、発生言語の構成的構造に対するより詳細かつ解釈可能な分析を提供する。
• この手法により、完全に構成的ではないものの、学習可能で分析可能な文法的パターンが発生言語に埋め込まれていることが明らかになった。