[论文解读] Matrix Multiplication in Quadratic Time and Energy? Towards a Fine-Grained Energy-Centric Church-Turing Thesis

Gregory Valiant|arXiv (Cornell University)|Nov 27, 2023

Quantum Computing Algorithms and Architecture被引用 2

一句话总结

本文提出了两种在牛顿力学下物理上合理的经典算法，用于 n×n 矩阵乘法，实现 Õ(n²) 的时间和能量复杂度，挑战了传统假设中每个算术运算消耗一个单位能量的观点。通过利用受控并行性和通过过程减速实现的能量-速度权衡，证明了时间和能量的二次方复杂度可同时实现，为一种以能量为中心的邱奇-图灵论题的改进奠定了基础。

ABSTRACT

We describe two algorithms for multiplying n × n matrices using time and energy Õ(n²) under basic models of classical physics. The first algorithm is for multiplying integer-valued matrices, and the second, quite different algorithm, is for Boolean matrix multiplication. We hope this work inspires a deeper consideration of physically plausible/realizable models of computing that might allow for algorithms which improve upon the runtimes and energy usages suggested by the parallel RAM model in which each operation requires one unit of time and one unit of energy.

研究动机与目标

• 探究在物理上合理的模型下，诸如矩阵乘法等基本算法原语是否能在时间和能量上实现多项式级改进。
• 挑战标准假设，即每个算术运算消耗一个单位能量（如 RAM 模型中的假设）。
• 探索非量子物理系统在 P 类问题中实现亚二次能量和时间复杂度的可行性。
• 启动一种以能量为中心的计算理论框架，以补充传统的时空复杂度模型。
• 通过识别可被利用于低能耗、高并行计算的物理现象，激发新型软硬件与算法设计。

提出的方法

• 使用 nq 个并行进程，每个进程以速率 ns 运行，能量消耗由减速参数 α ∈ [0, 2] 决定。
• 采用时分复用避免内存访问冲突：每个进程在时间块中以轮转、非重叠的调度方式访问不同的矩阵元素。
• 对于整数矩阵乘法，采用物理聚合机制在各进程之间汇总部分积，减少通信和能量开销。
• 对于布尔矩阵乘法，使用类似扩散的过程通过物理平均实现逻辑或运算，支持多个元素的并行计算。
• 利用关系式：每个进程的能量 ≈ 1 + (n / (n^s))^α 推导能量和时间边界，其中 s 控制进程速度和并行度。
• 证明当 α = 2（牛顿力学）时，使用 n^(9/5) 个进程，每个进程以 n^(3/5) 的速率计算 n^(1/5) 个元素，可实现 O(n^(9/5)) 的时间和能量复杂度。

实验结果

研究问题

• RQ1 是否可以在仅使用经典物理的前提下，实现 Õ(n²) 时间和能量的矩阵乘法，且不违反基本物理约束？
• RQ2 哪些计算的物理模型允许在时间和能量复杂度上相对于 RAM 模型实现同时的多项式级改进？
• RQ3 物理过程中能量-速度权衡如何影响基本问题算法的设计与效率？
• RQ4 此类改进的极限是什么？能否将其形式化为一种精细的、以能量为中心的邱奇-图灵论题扩展？
• RQ5 除经典力学外，哪些物理现象可进一步实现低能耗、高并行计算？

主要发现

• 本文构建了一种整数矩阵乘法算法，利用物理聚合机制在各进程之间汇总部分积，实现 Õ(n²) 的时间和能量复杂度。
• 对于布尔矩阵乘法，基于扩散的物理过程支持逻辑或运算的并行计算，实现 Õ(n²) 的时间和能量复杂度。
• 当 α = 2（牛顿力学）时，使用 n^(9/5) 个进程，每个进程以 n^(3/5) 的速率计算 n^(1/5) 个元素，可实现时间和能量复杂度均为 O(n^(9/5))。
• 当 α = 1 时，存在权衡关系，时间复杂度为 O(n^(2s))，能量复杂度为 O(n^(1−s))，其中 s ∈ [0,1]，当 s = 1/3 时，时间和能量复杂度均为 O(n^(2/3))。
• 该模型表明，当 α ≥ 1 时，时间和能量的亚二次复杂度可同时实现，挑战了每个操作消耗一个单位能量的假设。
• 结果表明，具有可控能量-速度权衡的物理系统，可为基本算法带来非平凡的、多项式级的资源使用改进。