[论文解读] Edge Learning for B5G Networks with Distributed Signal Processing: Semantic Communication, Edge Computing, and Wireless Sensing

Wei Xu, Zhaohui Yang+4 more|arXiv (Cornell University)|Jun 1, 2022

Distributed Sensor Networks and Detection Algorithms被引用 7

一句话总结

本文通过分布式信号处理统一语义通信、边缘计算和无线感知，提出了一种用于太赫兹后5G（B5G）网络的边缘学习（EL）集成框架。它引入了一种目标导向的源熵模型，并倡导联合通信-优化与学习-优化设计，以减少信令开销、提升收敛性，并实现在网络边缘的高效、安全、低延迟人工智能。

ABSTRACT

To process and transfer large amounts of data in emerging wireless services, it has become increasingly appealing to exploit distributed data communication and learning. Specifically, edge learning (EL) enables local model training on geographically disperse edge nodes and minimizes the need for frequent data exchange. However, the current design of separating EL deployment and communication optimization does not yet reap the promised benefits of distributed signal processing, and sometimes suffers from excessive signalling overhead, long processing delay, and unstable learning convergence. In this paper, we provide an overview on practical distributed EL techniques and their interplay with advanced communication optimization designs. In particular, typical performance metrics for dual-functional learning and communication networks are discussed. Also, recent achievements of enabling techniques for the dual-functional design are surveyed with exemplifications from the mutual perspectives of "communications for learning" and "learning for communications." The application of EL techniques within a variety of future communication systems are also envisioned for beyond 5G (B5G) wireless networks. For the application in goal-oriented semantic communication, we present a first mathematical model of the goal-oriented source entropy as an optimization problem. In addition, from the viewpoint of information theory, we identify fundamental open problems of characterizing rate regions for communication networks supporting distributed learning-and-computing tasks. We also present technical challenges as well as emerging application opportunities in this field, with the aim of inspiring future research and promoting widespread developments of EL in B5G.

研究动机与目标

• 解决边缘学习（EL）系统中通信与学习解耦导致的高信令开销和收敛缓慢的问题。
• 将分布式信号处理与EL结合，实现通信效率与学习准确率的双重功能性能指标。
• 为边缘学习中的目标导向语义通信建立数学模型，重点优化源熵。
• 从信息论角度识别表征分布式学习与计算网络速率区域的根本开放问题。
• 探索通信优化与学习技术之间的协同效应，以支持可扩展、安全、低延迟的B5G应用。

提出的方法

• 提出一种统一框架，结合边缘学习（EL）、语义通信与无线感知，利用分布式信号处理。
• 从基本原理出发，建立目标导向源熵的数学模型，将其作为最小化语义失真的优化问题。
• 从两个视角调研使能技术：'为学习而通信'（如波束成形、功率控制、资源分配）与'为通信而学习'（如多智能体强化学习、联邦学习）。
• 分析在带宽与延迟约束下，联邦学习（FL）中无线资源分配与模型收敛之间的相互作用。
• 为具有动态边缘设备参与的异构、移动B5G网络中的频谱效率与能量效率建立非凸优化问题。
• 将区块链与量子计算概念集成，以增强大规模分布式网络中EL的安全性与可扩展性。

实验结果

研究问题

• RQ1 如何对语义通信进行数学建模，以在带宽受限条件下最小化边缘学习中的信息损失？
• RQ2 支持分布式学习与计算任务的通信网络的基本速率区域是什么？
• RQ3 通过深度学习实现的联合信源-信道编码在短包、低延迟边缘通信场景中如何提升性能？
• RQ4 多智能体强化学习（MARL）在何种方式下可优化联邦学习中的无线资源分配，以实现最小信令开销？
• RQ5 如何缓解边缘设备间非独立同分布（non-i.i.d.）数据分布的影响，以确保边缘学习中模型聚合的稳定与准确？

主要发现

• 所提出的面向目标的源熵模型为优化边缘学习系统中的语义信息传输提供了理论基础。
• 在短包、高移动性的B5G场景中，基于深度学习的联合信源-信道编码优于传统的分离式方法。
• 分布式信号处理实现了通信与学习的双重功能优化，降低了信令开销并提升了收敛速度。
• 边缘设备间非独立同分布（non-i.i.d.）的数据分布会显著降低模型性能，因此需要采用自适应聚合技术。
• 多智能体强化学习（MARL）为在低延迟约束下实现联邦学习中动态无线资源分配提供了可扩展的解决方案。
• 将区块链与量子计算与EL结合，可增强大规模、分布式B5G网络中的安全性与计算效率。