[論文レビュー] A mathematical theory of cooperative communication

Pei Wang, Junqi Wang+2 more|arXiv (Cornell University)|Oct 7, 2019

Language and cultural evolution参考文献 77被引用数 21

ひとこと要約

本稿は、最適輸送理論を用いた協調的通信のための数学的枠組みを提示し、エージェント間の信念転送を輸送問題としてモデル化する。最適通信計画の存在を証明し、先行モデルを特別なケースとして導出するとともに、信念の不一致やグリーディデータ選択における不安定性に対して頑健であることを示し、シミュレーション結果は人間の行動と一致する。

ABSTRACT

Cooperative communication plays a central role in theories of human cognition, language, development, culture, and human-robot interaction. Prior models of cooperative communication are algorithmic in nature and do not shed light on why cooperation may yield effective belief transmission and what limitations may arise due to differences between beliefs of agents. Through a connection to the theory of optimal transport, we establishing a mathematical framework for cooperative communication. We derive prior models as special cases, statistical interpretations of belief transfer plans, and proofs of robustness and instability. Computational simulations support and elaborate our theoretical results, and demonstrate fit to human behavior. The results show that cooperative communication provably enables effective, robust belief transmission which is required to explain feats of human learning and improve human-machine interaction.

研究の動機と目的

• エージェント間での効果的な信念伝達を説明する数学的理論を構築すること。
• 従来のアルゴリズム的手法における協調的通信の分野における形式的数学的モデルの欠如に取り組むこと。
• 信念の不一致に対する頑健性やグリーディデータ選択下での不安定性といった基本的性質を分析すること。
• 協調的通信とレート歪み理論や最適輸送理論といった既存理論との関連を確立すること。

提案手法

• 教師と学習者の間の信念転送を、確率分布の1つから別のものへの移動としてモデル化することで、協調的通信を最適輸送問題として形式化する。
• 効率的で安定した輸送計画の計算を可能にするために、エントロピー正則化最適輸送（EOT）とシンクホルンスケーリングを用いる。
• 行列の逆行列と輸送計画の信念分布への感度分析を介して、最適化のための解析的勾配を導出する。
• 特定のコスト関数と正則化パラメータの下で、先行の協調的通信モデルが本フレームワークの特別なケースとして導出されることを適用する。
• 理論的結果の妥当性を検証し、人間の行動データと比較するために計算シミュレーションを実施する。
• ラグランジュ乗数を用いた双対定式化により、信念分布と輸送計画の両方を最適化する。

実験結果

リサーチクエスチョン

• RQ1 協調的通信をどのように数学的最適化問題として形式化できるか？
• RQ2 最適通信計画の存在と達成可能性に関する理論的保証は何か？
• RQ3 エージェント間の共通の前提の破綻に対して、協調的通信はどの程度頑健か？
• RQ4 グリーディデータ選択下で協調的通信に不安定性が生じる原因は何か？
• RQ5 提案されたモデルは、信念転送タスクにおける人間の行動データとどの程度一致するか？

主な発見

• 本稿は最適輸送理論を用いて最適通信計画の存在を証明し、理論的に効果的な信念伝達が達成可能であることを保証する。
• 先行の協調的通信モデルは、特定のコスト関数と正則化パラメータの下で、本フレームワークの特別なケースとして導出される。
• 本フレームワークは共通の前提の破綻に対しても頑健であり、信念の不一致下での安定性を数学的証明で裏付けている。
• シミュレーションにより、モデルが信念転送タスクにおける人間の行動データと一致することが確認され、認知的妥当性が支持される。
• モデルはグリーディデータ選択下で不安定性を示すことが判明し、解析的勾配により入力データ分布への感度が明確に示された。
• シンクホルンスケーリングの使用により、線形収束が保証され、輸送計画の効率的計算が可能となり、実装が現実的になる。