[论文解读] Discovering Transforms: A Tutorial on Circulant Matrices, Circular Convolution, and the Discrete Fourier Transform

Bassam Bamieh|arXiv (Cornell University)|May 14, 2018

Matrix Theory and Algorithms被引用 6

一句话总结

本教程演示了如何通过循环矩阵的联合对角化自然推导出离散傅里叶变换（DFT）——这些矩阵在循环移位下保持不变。通过求解一个移位不变矩阵的特征值问题，DFT 作为将所有此类矩阵同时对角化的基变换自然浮现，揭示了其与线性代数和对称性的深层联系，而非人为假设。

ABSTRACT

How could the Fourier and other transforms be naturally discovered if one didn't know how to postulate them? In the case of the Discrete Fourier Transform (DFT), we show how it arises naturally out of analysis of circulant matrices. In particular, the DFT can be derived as the change of basis that simultaneously diagonalizes all circulant matrices. In this way, the DFT arises naturally from a linear algebra question about a set of matrices. Rather than thinking of the DFT as a signal transform, it is more natural to think of it as a single change of basis that renders an entire set of mutually-commuting matrices into simple, diagonal forms. The DFT can then be "discovered" by solving the eigenvalue/eigenvector problem for a special element in that set. A brief outline is given of how this line of thinking can be generalized to families of linear operators, leading to the discovery of the other common Fourier-type transforms, as well as its connections with group representations theory.

研究动机与目标

• 提供一种自然且直观的离散傅里叶变换（DFT）推导方法，无需预先假设。
• 表明 DFT 是能够同时对角化所有循环矩阵的基变换。
• 将傅里叶型变换视为对称性与线性算子联合对角化的结果。
• 通过群对称性和表示理论，将该方法推广至其他变换，如傅里叶变换、z 变换和傅里叶级数。
• 为学生提供一条通过特征值问题和矩阵结构发现变换的教育路径，而非死记硬背定义。

提出的方法

• 将循环矩阵定义为通过单个向量的循环移位生成的矩阵，其每行每列均为循环置换。
• 认识到循环矩阵彼此可交换，且与 Z_n 上的循环移位算子可交换，意味着它们共享一个共同的特征基。
• 将 DFT 识别为能同时对角化所有循环矩阵的变换，其中 DFT 系数即为特征值。
• 通过移位算子的特征值问题推导 DFT，其特征向量为复指数函数。
• 利用群表示理论推广该方法：通过块对角化将有限群（如 S_3）的表示分解为不可约分量。
• 应用联合块对角化以找到不变子空间，并将矩阵变换为块对角形式，揭示其内在对称性。

实验结果

研究问题

• RQ1 如何从线性代数问题出发自然推导出离散傅里叶变换，而非预先假设？
• RQ2 联合对角化在揭示 DFT 结构方面起到什么作用？
• RQ3 循环矩阵及其对称性特性如何导致 DFT 作为特征基的出现？
• RQ4 能否将用于循环矩阵的框架推广以推导其他傅里叶型变换？
• RQ5 群表示理论如何为理解对称线性算子的块对角化提供统一框架？

主要发现

• DFT 自然地作为同时对角化所有循环矩阵的基变换出现，其中 DFT 系数即为生成向量的特征值。
• 循环矩阵可通过 DFT 矩阵对角化，该矩阵由循环移位算子的特征向量构成。
• 循环矩阵的特征值由其第一行的 DFT 给出，建立了矩阵结构与变换域之间的直接代数联系。
• 通过求解循环移位算子的特征值问题可发现 DFT，其特征向量为复指数函数。
• 该框架可推广至循环矩阵之外：任何具有共同对称性（如群不变性）的线性算子类，均可通过联合对角化导出相应变换。
• 对置换矩阵（如 S_3）的块对角化验证了该方法的广泛适用性，其中不变子空间将表示分解为不可约分量。