[论文解读] Semantic Communication with Adaptive Universal Transformer

Qingyang Zhou, Rongpeng Li+3 more|arXiv (Cornell University)|Aug 20, 2021

Speech Recognition and Synthesis被引用 8

一句话总结

本文提出一种基于自适应通用变换器（Universal Transformer, UT）的语义通信系统，可根据句子复杂度和信道条件动态调整处理周期，在噪声环境中显著提升端到端性能。通过用具备可学习循环机制的UT替代固定结构的Transformer，系统在低信噪比（SNR）和高信噪比（SNR）环境下均展现出更强的鲁棒性与灵活性，且在不增加模型参数量的前提下，优于传统Transformer模型。

ABSTRACT

With the development of deep learning (DL), natural language processing (NLP) makes it possible for us to analyze and understand a large amount of language texts. Accordingly, we can achieve a semantic communication in terms of joint semantic source and channel coding over a noisy channel with the help of NLP. However, the existing method to realize this goal is to use a fixed transformer of NLP while ignoring the difference of semantic information contained in each sentence. To solve this problem, we propose a new semantic communication system based on Universal Transformer. Compared with the traditional transformer, an adaptive circulation mechanism is introduced in the Universal Transformer. Through the introduction of the circulation mechanism, the new semantic communication system can be more flexible to transmit sentences with different semantic information, and achieve better end-to-end performance under various channel conditions.

研究动机与目标

• 解决固定结构Transformer在语义通信中处理可变语义复杂度和动态信道条件时的局限性。
• 通过基于句子语义和信道质量的自适应处理，提升在噪声环境下的端到端性能。
• 通过引入可动态调整处理深度的循环机制，减少对固定注意力机制的依赖。
• 在不增加模型参数量的前提下，实现更高的语义传输准确率，提升可扩展性与泛化能力。

提出的方法

• 系统采用通用变换器（UT）作为核心架构，将标准Transformer的固定深度替换为可学习的自适应循环机制。
• UT通过可微分门控机制实现迭代优化，控制每个标记被处理的次数，从而实现每句话的可变计算量。
• 语义编码器与解码器与信道编码器和解码器联合端到端训练，采用反向传播算法。
• 模型在0–10 dB的SNR范围内进行训练，以提升对不同噪声水平的鲁棒性。
• 系统采用BLEU分数和符号错误率（SER）作为评估指标，以衡量语义保真度和传输准确性。
• 该架构支持可变长度输入句子，并将其映射为复杂符号流，用于在加性高斯白噪声（AWGN）或瑞利衰落信道中传输。

实验结果

研究问题

• RQ1 自适应Transformer机制是否能提升在多样化信道条件下的语义通信性能？
• RQ2 通用变换器中的动态周期调整在不同SNR水平下如何影响语义保真度？
• RQ3 在低SNR区域，自适应UT是否在BLEU分数和SER方面优于固定结构Transformer，尤其是与更深的模型相比？
• RQ4 每个词的符号数量在多大程度上影响系统的鲁棒性与性能？
• RQ5 自适应UT是否能在不增加模型参数量的前提下维持高性能，从而避免传统深层Transformer带来的参数膨胀问题？

主要发现

• 自适应通用变换器在广泛SNR范围内显著提升了BLEU分数并降低了SER，尤其在低SNR条件下表现突出。
• 在随机SNR范围（0–10 dB）内进行训练，使系统在低SNR和高SNR区域均具备鲁棒性能，避免了高SNR场景下的性能下降。
• 增加每个词的符号数量可提升抗噪声能力并提高BLEU分数，但超过某一临界点后收益递减。
• UT会根据句子复杂度和信道质量动态增加处理周期，在不增加模型规模的前提下确保达到置信度阈值。
• 在高SNR区域，UT优于更深的常规Transformer（如6×6层），后者在该区域无性能提升且存在过拟合风险。
• 该系统在不增加参数量的前提下，性能优于固定结构Transformer，证明了自适应计算的高效性。