[论文解读] Transceiver Cooperative Learning-aided Semantic Communications Against Mismatched Background Knowledge Bases

Yanhu Wang, Shuaishuai Guo|arXiv (Cornell University)|Jan 9, 2023

Wireless Signal Modulation Classification被引用 6

一句话总结

该论文提出了一种基于收发器协作学习的语义通信（TCL-SC）方案，以缓解语义通信系统中因收发器背景知识库（KB）不匹配导致的语义误解问题。通过使收发器利用各自的KB协作训练共享的语义编码器和解码器神经网络，并定期交换量化后的模型参数，TCL-SC在降低通信开销的同时提升了语义保真度，尤其在低信噪比（SNR）环境下，其在BLEU和句子相似度指标上优于基线方法。

ABSTRACT

Semantic communications learned on background knowledge bases (KBs) have been identified as a promising technology for communications between intelligent agents. Existing works assume that transceivers of semantic communications share the same KB. However, intelligent transceivers may suffer from the communication burden or worry about privacy leakage to exchange data in KBs. Besides, the transceivers may independently learn from the environment and dynamically update their KBs, leading to timely sharing of the KBs infeasible. All these cause the mismatch between the KBs, which may result in a semantic-level misunderstanding on the receiver side. To address this issue, we propose a transceiver cooperative learning-assisted semantic communication (TCL-SC) scheme against mismatched KBs. In TCL-SC, the transceivers cooperatively train semantic encoder and decoder neuron networks (NNs) of the same structure based on their own KBs. They periodically share the parameters of NNs. To reduce the communication overhead of parameter sharing, parameter quantization is adopted. Moreover, we discuss the impacts of the number of communication rounds on the performance of semantic communication systems. Experiments on real-world data demonstrate that our proposed TCL-SC can reduce the semantic-level misunderstanding on the receiver side caused by the mismatch between the KBs, especially at the low signal-to-noise (SNR) ratio regime.

研究动机与目标

• 解决语义通信系统中收发器之间背景知识库（KB）不匹配导致的语义误解问题。
• 降低收发器之间直接共享数据所导致的通信开销、训练成本和隐私风险。
• 使收发器能够在不共享原始数据的前提下，利用自身知识库协作训练语义模型。
• 研究通信轮次数量对系统性能的影响，并优化开销与准确率之间的权衡。
• 提升在低SNR环境下因KB不匹配而使传统方案失效时的语义保真度。

提出的方法

• 收发器分别使用其本地KB独立训练语义编码器和解码器神经网络。
• 通过定期交换量化后的神经网络参数，实现在不共享原始数据的前提下实现模型对齐。
• 应用参数量化以降低模型参数传输的通信开销。
• 采用协作学习框架，同步收发器之间的模型权重，以对齐语义理解。
• 系统使用BLEU分数和句子相似度指标，在不同SNR条件下评估语义保真度。
• 分析通信轮次数，以平衡性能与资源效率。

实验结果

研究问题

• RQ1 参数量化在KB不匹配场景下的协作语义学习中，如何影响性能与通信效率？
• RQ2 为在保持语义准确率的同时最小化开销，通信轮次的最优数量是多少？
• RQ3 协作学习在低SNR环境下，能在多大程度上减少因KB不匹配导致的语义误解？
• RQ4 在KB不匹配条件下，TCL-SC与传统及现有语义通信方案在BLEU和句子相似度指标上的表现如何比较？
• RQ5 在拥有私有KB的分布式语义学习中，模型对齐准确率与通信成本之间存在何种权衡？

主要发现

• TCL-SC显著减少了因KB不匹配导致的语义层面误解，尤其在低SNR环境下表现突出。
• 在低SNR条件下，TCL-SC的BLEU(1-gram)得分优于传统通信和DeepSC基线方法。
• 句子相似度结果表明，TCL-SC在保留语义含义方面优于基线方法，尤其在低SNR环境下，尽管存在信道噪声，仍能实现更高的相似度。
• 当收发器拥有不同KB时，该方案仍能保持高语义保真度，展现出对语义模糊性的鲁棒性。
• 参数量化有效降低了通信开销，且未损害模型性能，有利于实际部署。
• 通信轮次数量对性能有显著影响，存在最优值可在开销与对齐准确率之间实现良好平衡。