[논문 리뷰] Addition Chains Meet Postage Stamps: Reducing the Number of Multiplications

Jukka Kohonen, Jukka Corander|arXiv (Cornell University)|2013. 10. 26.

Logic, programming, and type systems참고 문헌 4인용 수 3

한 줄 요약

이 논문은 반복 기능 적용에 필요한 곱셈 수를 줄이기 위해 추가 체인과 가감 2기초(스탬프 기초)인 스탬프 체인을 도입한다. 영향력 없는 함수 $ u $와 $ v $를 활용함으로써 $ i=1,\ldots,n $에 대해 $ u(x^i) $를 $ n-1 $ 번 이하의 곱셈으로 계산할 수 있으며, 행렬 곱셈과 부분집합 콘볼루션 등의 응용에서 빠른 성능 향상을 이룬다. 특히 $ n=20 $일 경우 66%의 감소가 입증되었다.

ABSTRACT

We introduce stamp chains. A stamp chain is a finite integer sequence that is both an addition chain and an additive 2-basis, i.e., a solution to the postage stamp problem. We provide a simple method for converting known postage stamp solutions of length k into stamp chains of length k+1. Using stamp chains, we construct an algorithm that computes u(x^i) for i=1,...,n in less than n-1 multiplications, if u is a function that can be computed at zero cost, and if there exists another zero-cost function v such that v(a,b) = u(ab). This can substantially reduce the computational cost of repeated multiplication, as illustrated by application examples related to matrix multiplication and data clustering using subset convolution. In addition, we report the extremal postage stamp solutions of length k=24.

연구 동기 및 목표

• 반복적으로 $ u(x^i) $를 계산할 때 중간 거듭제곱이 필요 없더라도 $ n-1 $ 번의 곱셈이 이루어지는 계산 비효율성을 해결한다.
• 추가 체인과 우표 문제 사이의 구조적 연결 고리를 규명하고 이를 이용해 필요한 곱셈 수를 최소화한다.
• 영향력 없는 조합 함수 $ v(a,b) = u(ab) $를 활용해 $ y_i = u(x^i) $를 $ n-1 $ 번 이하의 곱셈으로 계산하는 알고리즘을 개발한다.
• 기존의 극한 스탬프 기초에서 효율적인 스탬프 체인을 구성하여 실용적 응용에서 최소 곱셈 순서를 확보한다.
• 행렬 거듭제곱 계산과 베이지안 클러스터링에서 특정 기능 값만 필요한 문제들에 적용 가능한 프레임워크를 제공한다.

제안 방법

• 스탬프 체인을 정의한다: 각 원소가 이전의 두 원소의 합으로 이루어지는 추가 체인이면서, 최대 두 개의 원소를 사용해 1부터 $ n $까지의 모든 정수를 생성할 수 있는 스탬프 기초이어야 한다.
• 알고리즘 A를 제안하여, 범위 $ \geq n $인 스탬프 체인의 길이가 $ k $일 경우 $ y_1, \ldots, y_n $을 오직 $ k-1 $ 번의 곱셈으로 계산한다. 이는 특정 거듭제곱만 계산하고 $ v $를 통해 조합함으로써 이루어진다.
• 함수 $ u $와 $ v(ab) = u(ab) $가 영향력 없는 비용으로 계산 가능하다는 점을 활용해 복합 지수에 대해 $ u(x^i) $를 계산할 때 전체 곱셈을 피한다.
• 정리 1을 사용해 기존의 알려진 극한 스탬프 기초에서 스탬프 체인을 구성한다. 이는 길이 $ k $인 허용 가능한 스탬프 기초를 길이 $ k+1 $인 스탬프 체인으로 변환한다.
• 베이지안 클러스터링에서 부분집합 콘볼루션에 적용하여, 각 기능 테이블의 최종 원소만 필요하고 $ v $를 통해 전체 콘볼루션 없이도 빠른 평가가 가능하다.
• 기존의 극한 스탬프 기초(예: $ k=24 $)를 활용해 최소 길이의 스탬프 체인을 생성하고 실질적인 계산 비용을 줄인다.

실험 결과

연구 질문

• RQ1 함수 $ u $와 $ v(ab) = u(ab) $가 영향력 없는 비용으로 계산 가능할 때, $ i=1,\ldots,n $에 대해 $ u(x^i) $를 계산할 때 곱셈 수를 어떻게 줄일 수 있는가?
• RQ2 추가 체인과 우표 문제 사이의 어떤 구조적 성질이 최소 곱셈 순서를 가능하게 하는가?
• RQ3 기존의 우표 문제 해법을 체계적으로 기능 계산을 위한 효율적인 추가 체인으로 변환할 수 있는가?
• RQ4 실제 응용에서 표준 반복 곱셈 대비 스탬프 체인 사용이 얼마나 많은 계산 절감을 이룰 수 있는가?
• RQ5 중간 크기의 $ k $, 예를 들어 $ k=24 $에 대해 극한 스탬프 기초와 체인은 무엇이며, 어떻게 최적 성능을 달성하는가?

주요 결과

• n=20일 경우, 극한 스탬프 체인 $ \{1,2,3,6,9,10,11\} $을 사용하면 부분집합 콘볼루션 수를 19번에서 6번으로 줄일 수 있어 계산 시간을 약 두-thirds 감소시킨다.
• 곱셈 수는 $ n-1 $에서 $ k-1 $로 줄어들며, 여기서 $ k $는 범위 $ \geq n $인 스탬프 체인의 길이다. $ k \ll n $일 경우에 큰 절감 효과를 얻을 수 있다.
• 길이 $ k=24 $인 극한 스탬프 체인을 구성하여 범위 $ \overline{n}(24) \geq 22 $를 달성함으로써 고효율 체인의 실현 가능성을 입증했다.
• 기존의 $ k \leq 82 $ 및 $ n \leq 2100 $ 범위의 극한 스탬프 기초는 정리 1을 통해 허용 가능한 스탬프 체인으로 변환 가능하여 확장 가능한 응용이 가능하다.
• 베이지안 클러스터링에서 부분집합 콘볼루션에 적용한 결과, 전체 콘볼루션 중 일부만 계산하고 나머지는 $ v $를 통해 평가함으로써 시간 복잡도를 $ O(n \cdot 3^N) $에서 $ O(k \cdot 3^N) $으로 줄일 수 있었으며, 여기서 $ k \ll n $이다.