[论文解读] Semantics-Native Communication with Contextual Reasoning

Hyowoon Seo, Jihong Park+2 more|arXiv (Cornell University)|Aug 12, 2021

Wireless Signal Modulation Classification参考文献 50被引用 38

一句话总结

本论文提出 System 1 and System 2 semantics-native communication (SNC)，在其中融入上下文推理以减少 SR 比特长度并提高可靠性，并具有收敛性保证和实证验证。

ABSTRACT

Spurred by a huge interest in the post-Shannon communication, it has recently been shown that leveraging semantics can significantly improve the communication effectiveness across many tasks. In this article, inspired by human communication, we propose a novel stochastic model of System 1 semantics-native communication (SNC) for generic tasks, where a speaker has an intention of referring to an entity, extracts the semantics, and communicates its symbolic representation to a target listener. To further reach its full potential, we additionally infuse contextual reasoning into SNC such that the speaker locally and iteratively self-communicates with a virtual agent built on the physical listener's unique way of coding its semantics, i.e., communication context. The resultant System 2 SNC allows the speaker to extract the most effective semantics for its listener. Leveraging the proposed stochastic model, we show that the reliability of System 2 SNC increases with the number of meaningful concepts, and derive the expected semantic representation (SR) bit length which quantifies the extracted effective semantics. It is also shown that System 2 SNC significantly reduces the SR length without compromising communication reliability.

研究动机与目标

• 建立点对点 semantics-native communication (SNC) 的随机模型。
• 通过在说话者与聆听者之间嵌入上下文推理来引入 System 2 SNC。
• 证明在 System 2 SNC 下向互相通信上下文的收敛。
• 分析上下文推理如何影响 SR 比特长度和可靠性。
• 用仿真和鲁棒性评估验证理论结果。

提出的方法

• 给定带有 action-concept 相关性 X_c、A2C、C2S 和 S2C 映射的 action-concept-symbol (A→C→S) 流水线的定义。
• 推导 System 1 SNC 的语义表示 (SR) 的期望比特长度（定理1）。
• 将 System 2 SNC 表述为自-SNC 优化问题，通过方程 (8) 在 S、L、M 间平衡的目标。
• 开发交替极小化算法（定理2–3）以实现收敛的互通上下文 M*。
• 量化可靠性随有意义概念数量的增加而提升的程度（定理3），并在 System 2 SNC 下推导 SR 比特长度（推论3）。
• 讨论对不完美智能体状态的鲁棒性以及对 SR 映射的量化策略。

实验结果

研究问题

• RQ1 在 semantics-native communication 中，上下文推理如何影响 SR 比特长度和可靠性？
• RQ2 System 2 SNC 是否能实现说话者和听者之间共同互通上下文的收敛？
• RQ3 异质代理状态如何影响上下文推理的性能与收敛？
• RQ4 System 2 SNC 中 rA2C 与 rC2A 的参数选择（alpha、beta）有哪些权衡？

主要发现

• System 1 SNC 给出依赖于概念相关性概率的 SR 比特长度的闭式界限（定理1）。
• System 2 SNC 通过自-SNC 上下文推理，收敛到代理之间的互通上下文（定理2）。
• System 2 SNC 随着有意义概念数量增加而提高可靠性（定理3）。
• 一种交替极小化过程实现上下文推理过程的收敛（定理2）。
• 推论阐明了 System 2 SNC 下 SR 比特长度的表征。
• 当在推理前对概念进行量化时，System 2 SNC 对不完美的代理状态具有鲁棒性。