[논문 리뷰] Matrix Multiplication in Quadratic Time and Energy? Towards a Fine-Grained Energy-Centric Church-Turing Thesis

Gregory Valiant|arXiv (Cornell University)|2023. 11. 27.

Quantum Computing Algorithms and Architecture인용 수 2

한 줄 요약

이 논문은 뉴턴역학 하에서 Õ(n²) 시간 및 에너지 복잡도를 달성하는 두 가지 물리적으로 타당한 고전적 알고리즘을 제안한다. 이는 각 산술 연산이 에너지 한 단위를 소비한다는 전통적인 가정을 도전한다. 제어된 병렬성과 프로세스 속도 저하에 의한 에너지-속도 트레이드오프를 활용하여, 시간과 에너지 모두에서 이차 시간 복잡도를 동시에 달성함을 보여주며, 에너지 중심의 추론 모델을 위한 기초를 마련한다.

ABSTRACT

We describe two algorithms for multiplying n × n matrices using time and energy Õ(n²) under basic models of classical physics. The first algorithm is for multiplying integer-valued matrices, and the second, quite different algorithm, is for Boolean matrix multiplication. We hope this work inspires a deeper consideration of physically plausible/realizable models of computing that might allow for algorithms which improve upon the runtimes and energy usages suggested by the parallel RAM model in which each operation requires one unit of time and one unit of energy.

연구 동기 및 목표

• 기본 알고리즘 원천, 예를 들어 행렬 곱셈이 물리적으로 타당한 모델 하에서 시간과 에너지 복잡도를 다항식 수준으로 개선할 수 있는지 조사한다.
• RAM 모델에서 각 산술 연산이 에너지 한 단위를 소비한다는 표준 가정을 도전한다.
• P-클래스 문제에 대해 이차 이하의 에너지 및 시간 복잡도를 가능하게 하는 비 양자 물리 시스템의 실현 가능성을 탐색한다.
• 전통적인 시간-공간 복잡도 모델에 대체하는 에너지 중심의 컴퓨팅 이론 프레임워크를 제안한다.
• 물리적 현상이 저에너지 고병렬 컴퓨팅에 활용될 수 있음을 규명함으로써, 새로운 하드웨어 및 알고리즘 설계를 유도한다.

제안 방법

• nq개의 병렬 프로세스를 사용하여 계산을 모델링하며, 각 프로세스는 속도 ns로 작동하고, 에너지 소비는 감속 비율 α ∈ [0, 2]에 의해 결정된다.
• 메모리 접근 충돌을 방지하기 위해 시간 분할 다중화를 사용한다: 각 프로세스는 시간 블록 내에서 겹치지 않는 순환 스케줄에 따라 서로 다른 행렬 원소에 접근한다.
• 정수 행렬 곱셈의 경우, 프로세스 간 부분 곱의 합을 위해 물리적 집합 메커니즘을 활용하여 통신 및 에너지 오버헤드를 감소시킨다.
• 불린 행렬 곱셈의 경우, 물리적 평균화를 통한 확산 유사 과정을 사용하여 논리적 OR 연산을 병렬적으로 평가한다.
• 에너지 및 시간 복잡도의 상한을 유도하기 위해 다음과 같은 관계를 사용한다: 프로세스당 에너지 ≈ 1 + (n / (n^s))^α, 여기서 s는 프로세스 속도와 병렬성의 조절 인자이다.
• α = 2일 때(뉴턴역학), n^(9/5)개의 프로세스 각각이 n^(1/5)개의 원소를 n^(3/5)의 속도로 계산하면 O(n^(9/5))의 시간 및 에너지 복잡도를 달성한다.

실험 결과

연구 질문

• RQ1 기본 물리적 제약을 위반하지 않고, 고전 물리학만을 사용하여 Õ(n²) 시간 및 에너지 복잡도로 행렬 곱셈을 수행할 수 있는가?
• RQ2 어떤 물리적 계산 모델이 RAM 모델 대비 시간 및 에너지 복잡도의 동시에 다항식 수준의 개선을 가능하게 하는가?
• RQ3 물리적 과정의 에너지-속도 트레이드오프가 기본 문제에 대한 알고리즘 설계 및 효율성에 미치는 영향은 무엇인가?
• RQ4 이러한 개선의 한계는 무엇이며, 이를 체르치-튜링 논법의 세밀한 에너지 중심 확장으로 정형화할 수 있는가?
• RQ5 고전 역학을 초월한 어떤 물리적 현상이 저에너지 고병렬 컴퓨팅을 추가로 가능하게 할 수 있는가?

주요 결과

• 논문은 부분 곱의 합을 프로세스 간에 물리적으로 집계하는 메커니즘을 활용하여, 정수 행렬 곱셈을 Õ(n²) 시간 및 에너지 복잡도로 수행하는 알고리즘을 구축한다.
• 불린 행렬 곱셈의 경우, 확산 기반의 물리적 과정을 통해 논리적 OR 연산을 병렬 평가할 수 있으며, 이로 인해 Õ(n²) 시간 및 에너지 복잡도를 달성한다.
• α = 2일 때(뉴턴역학), n^(9/5)개의 프로세스 각각이 n^(1/5)개의 원소를 n^(3/5)의 속도로 계산하면 시간 및 에너지 복잡도 모두 O(n^(9/5))를 달성한다.
• α = 1일 때, s ∈ [0,1]에 대해 시간 O(n^(2s)) 및 에너지 O(n^(1−s))의 트레이드오프를 허용하며, s = 1/3일 때 시간 및 에너지 모두 O(n^(2/3))을 달성한다.
• 모델은 α ≥ 1일 때 이차 이하의 시간 및 에너지 복잡도가 동시에 달성 가능함을 보여주며, 각 연산이 에너지 한 단위를 소비한다는 가정을 도전한다.
• 결과는 제어 가능한 에너지-속도 트레이드오프를 갖는 물리 시스템이 기본 알고리즘의 자원 사용에 비현실적이지 않은 다항식 수준의 개선을 이끌 수 있음을 시사한다.