[论文解读] Beyond Transmitting Bits: Context, Semantics, and Task-Oriented Communications

Denız Gündüz, Zhijin Qin+6 more|arXiv (Cornell University)|Jul 19, 2022

Computability, Logic, AI Algorithms被引用 26

一句话总结

本论文从信息理论视角调研语义与任务导向的通信，介绍基础概念、基于知识图谱的语义，以及实用的JSCC设计，强调语境、意义与任务保真。

ABSTRACT

Communication systems to date primarily aim at reliably communicating bit sequences. Such an approach provides efficient engineering designs that are agnostic to the meanings of the messages or to the goal that the message exchange aims to achieve. Next generation systems, however, can be potentially enriched by folding message semantics and goals of communication into their design. Further, these systems can be made cognizant of the context in which communication exchange takes place, providing avenues for novel design insights. This tutorial summarizes the efforts to date, starting from its early adaptations, semantic-aware and task-oriented communications, covering the foundations, algorithms and potential implementations. The focus is on approaches that utilize information theory to provide the foundations, as well as the significant role of learning in semantics and task-aware communications.

研究动机与目标

• 通过突出意义和任务结果重要性（不仅是逐比特的完美传输）来推动语义和目标导向通信。
• 介绍语义和任务导向设计的信息理论基础，包括速率-失真及相关概念。
• 展示基于知识图谱的语义作为编码和传输任务相关信息的实用工具。
• 讨论用于语义和任务导向通信的机器学习方法，包括训练和预测阶段。
• 概述实用的JSCC设计和针对噪声信道的实时、面向任务的通信框架。

提出的方法

• 回顾并综合现有的语义信息度量及其局限性。
• 将速率失真理论作为框架来捕捉语义和任务特定的失真。
• 将信息瓶颈与目标导向压缩与语义保真联系起来。
• 在速率受限的设置下讨论远程推断和远程训练的概念。
• 描述知识图谱嵌入技术和下游任务的语义匹配模型。
• 概述JSCC方法及在嘈杂信道上实现面向目标的传输的实用设计。

实验结果

研究问题

• RQ1 如何将信息理论工具改编为量化和优化语义与任务导向通信？
• RQ2 语义的基础度量有哪些，如何与速率失真理论和JSCC整合？
• RQ3 知识图谱和语义嵌入在实现实用语义通信中扮演何种角色？
• RQ4 如何将机器学习整合到语义和任务导向系统的训练与预测阶段？
• RQ5 在信道损伤下，哪些实用设计能够实现文本、语音和图像源的面向目标传输？

主要发现

• 基于信息理论的语义与任务导向通信概念的分类和概览。
• 建立了速率失真理论、语义失真和任务保真之间的联系。
• 基于知识图谱的语义被证明能支持下游任务和潜在的语义通信框架。
• 讨论了基于ML的方法用于语义与任务导向通信，包括远程推断与训练。
• 展示了JSCC概念和初步的可用于嘈杂信道下实时、与任务相关传输的实用设计。
• 引入将时序视为语义并与时效性通信中的信息年龄相联系。
• 提出与 Weaver 的 C 级（情境相关通信）对齐的有效通信框架。