[论文解读] Complex-Valued Neural Networks for Data-Driven Signal Processing and Signal Understanding

Josiah W. Smith|arXiv (Cornell University)|Sep 14, 2023

Computational Physics and Python Applications被引用 5

一句话总结

本文介绍了 complextorch，一个基于 PyTorch 的轻量级框架，可高效实现复值神经网络（CVNN），用于数据驱动的信号处理与信号理解。通过提供优化的、与 PyTorch 集成的层（包括线性、卷积、注意力、归一化及基于流形的操作），以及复数反向传播和损失函数，该框架借助高斯乘法技巧与正确的复梯度处理，显著提升了雷达、通信和射频（RF）信号处理研究的计算效率。

ABSTRACT

Complex-valued neural networks have emerged boasting superior modeling performance for many tasks across the signal processing, sensing, and communications arenas. However, developing complex-valued models currently demands development of basic deep learning operations, such as linear or convolution layers, as modern deep learning frameworks like PyTorch and Tensor flow do not adequately support complex-valued neural networks. This paper overviews a package built on PyTorch with the intention of implementing light-weight interfaces for common complex-valued neural network operations and architectures. Similar to natural language understanding (NLU), which as recently made tremendous leaps towards text-based intelligence, RF Signal Understanding (RFSU) is a promising field extending conventional signal processing algorithms using a hybrid approach of signal mechanics-based insight with data-driven modeling power. Notably, we include efficient implementations for linear, convolution, and attention modules in addition to activation functions and normalization layers such as batchnorm and layernorm. Additionally, we include efficient implementations of manifold-based complex-valued neural network layers that have shown tremendous promise but remain relatively unexplored in many research contexts. Although there is an emphasis on 1-D data tensors, due to a focus on signal processing, communications, and radar data, many of the routines are implemented for 2-D and 3-D data as well. Specifically, the proposed approach offers a useful set of tools and documentation for data-driven signal processing research and practical implementation.

研究动机与目标

• 解决主流深度学习框架（如 PyTorch 和 TensorFlow）缺乏原生复值操作的问题。
• 通过提供轻量级、与 PyTorch 兼容的封装，实现复值张量的数据驱动信号处理模型的快速开发。
• 支持高级 CVNN 组件，如复值注意力、归一化及基于流形的卷积，以提升建模效率与性能。
• 通过结合信号机理与数据驱动的深度学习，促进射频信号理解（RFSU）的研究。
• 通过高斯乘法技巧与基于 Wirtinger 的正确复反向传播，提升计算效率。

提出的方法

• 通过实部与虚部分解实现复值线性与卷积层，利用高斯乘法技巧将四次运算减少为三次，实现高效计算。
• 通过独立对实部与虚部分别应用操作，集成复值激活函数（如 CReLU、CSELU）、批量归一化、层归一化及 Dropout。
• 支持基于流形的 wFM 卷积，其对相位偏移与幅度缩放保持等变性，实现在复数域中的参数高效建模。
• 实现复值损失函数，包括幅度-相位分离损失（如幅度与相位误差的加权和）、CVQuadError、CVFourthPowError 与 PerpLossSSIM。
• 通过利用原生复张量支持与 Wirtinger 微积分，确保与 PyTorch 计算图的兼容性，实现梯度计算。
• 提供针对 1D、2D 与 3D 数据的开源、文档齐全的实现，以支持雷达与通信中多样化的信号处理应用。

实验结果

研究问题

• RQ1 在缺乏原生复张量支持的现代深度学习框架中，如何高效实现复值神经网络？
• RQ2 高斯乘法技巧对深度学习中复值操作的计算效率有何影响？
• RQ3 基于流形的复值卷积（wFM）是否能在保持或提升性能的同时减小模型规模？
• RQ4 在射频信号理解任务中，幅度-相位分离损失函数与标准复值损失函数在建模精度方面有何差异？
• RQ5 复值归一化与注意力层在数据驱动信号处理任务中的性能提升程度如何？

主要发现

• complextorch 框架成功实现了复值深度学习操作的高效、原生 PyTorch 集成，涵盖线性、卷积、注意力与归一化等层。
• 高斯乘法技巧将复值线性与卷积层中的运算次数从四次减少至三次，显著提升了计算效率。
• 已实现基于流形的 wFM 卷积，并证明其在参数效率与潜在性能增益方面具有优势，尤其在小模型场景下表现突出。
• 复值损失函数（如幅度-相位分离损失与 CVQuadError）通过分别优化幅度与相位分量，展现出更高的建模精度。
• 该框架通过 Wirtinger 微积分实现了端到端训练与正确的复反向传播，确保梯度稳定与收敛。
• 开源实现已在学术研究中广泛采用，包括多篇博士论文与信号处理应用。