[论文解读] Communication Beyond Transmitting Bits: Semantics-Guided Source and Channel Coding

Jincheng Dai, Ping Zhang+4 more|arXiv (Cornell University)|Aug 4, 2022

Wireless Communication Security Techniques被引用 4

一句话总结

本文提出了一种新颖的语义编码传输（SCT）框架，通过语义引导的设计统一了信源编码与信道编码，实现了优先传输语义重要信息的智能、目标导向型通信。通过利用深度神经网络提取并优先处理语义特征，SCT在低信噪比（SNR）条件下实现了比传统方法更优的鲁棒性与效率，尤其在率-失真权衡方面表现出显著性能增益。

ABSTRACT

Classical communication paradigms focus on accurately transmitting bits over a noisy channel, and Shannon theory provides a fundamental theoretical limit on the rate of reliable communications. In this approach, bits are treated equally, and the communication system is oblivious to what meaning these bits convey or how they would be used. Future communications towards intelligence and conciseness will predictably play a dominant role, and the proliferation of connected intelligent agents requires a radical rethinking of coded transmission paradigm to support the new communication morphology on the horizon. The recent concept of "semantic communications" offers a promising research direction. Injecting semantic guidance into the coded transmission design to achieve semantics-aware communications shows great potential for further breakthrough in effectiveness and reliability. This article sheds light on semantics-guided source and channel coding as a transmission paradigm of semantic communications, which exploits both data semantics diversity and wireless channel diversity together to boost the whole system performance. We present the general system architecture and key techniques, and indicate some open issues on this topic.

研究动机与目标

• 为解决经典通信系统中对所有比特一视同仁、不考虑语义意义或下游实用价值的局限性。
• 通过在编码传输中引入语义意识，实现从外向扩展模式向内向发现模式的转变，推动新型通信范式的发展。
• 通过联合优化语义保真度与信道可靠性，弥合信源编码与信道编码之间的鸿沟。
• 构建一个统一框架——语义编码传输（SCT），支持端到端的语义感知通信，并在噪声环境下实现性能提升。
• 识别并解决语义失真建模、资源分配与系统泛化方面的理论与技术挑战。

提出的方法

• 设计了一套语义编码传输（SCT）系统架构，集成语义引导生成、语义引导的信源与信道编码，以及语义失真校正模块。
• 采用深度神经网络作为通用函数逼近器，执行非线性语义特征提取与融合，实现率-失真性能的端到端优化。
• 为每个语义特征向量（SFV）引入语义重要性评分，根据其对下游任务的相关性决定带宽分配与传输优先级。
• 采用联合信源-信道编码方法，使信道编码根据信源的语义内容自适应调整，为语义关键数据分配更多资源。
• 应用生成对抗网络（GANs）等技术进行语义失真校正，利用误差掩码等先验知识对解码后的语义表示进行精细化修正。
• 提出通过引入语义典型序列与柯尔莫哥洛夫复杂度，扩展香农信息论，以形式化语义率-失真函数。

实验结果

研究问题

• RQ1 如何在通信系统中有效提取并优先处理语义信息，以提升传输效率与鲁棒性？
• RQ2 语义特征向量重要性与分配传输资源之间的最优定量关系是什么？
• RQ3 如何利用局部先验知识在解码后进行语义失真校正，且如何将其与信源和信道编码集成？
• RQ4 可建立何种理论基础以界定语义编码系统中的速率与端到端语义失真？
• RQ5 如何使SCT框架在多样化的无线环境与应用场景中实现泛化？

主要发现

• SCT系统在低信噪比条件（如SNR = 1 dB）下表现出更优的率-失真（RD）权衡性能，尤其在低速率区域（R < 0.6）显著优于传统编码方法。
• 在高速率区域，传统编码仍因设计更精细而表现更优，但SCT在采用先进神经架构后展现出巨大的未来提升潜力。
• 通过深度神经网络实现的语义引导生成，可实现非线性、语义感知的变换，显著提升系统对噪声与衰落等信道损伤的鲁棒性。
• 语义失真校正技术（包括基于GAN的优化）的集成可有效降低残余误差，提升接收端的语义保真度。
• 理论分析表明，扩展香农的典型序列并引入柯尔莫哥洛夫复杂度，或可为语义率-失真函数建模提供理论基础。
• 尽管性能有所提升，但由于深度学习驱动的语义变换缺乏坚实的数学基础，当前在传输速率与失真边界约束方面仍面临挑战。