[논문 리뷰] Counting Small Permutation Patterns

Chaim Even‐Zohar, Calvin Leng|arXiv (Cornell University)|2019. 11. 04.

Bayesian Methods and Mixture Models인용 수 4

한 줄 요약

이 논문은 다차원 합 트리와 분할정복 전략을 활용하여 2- 및 3-패턴, 여덟 개인 4-패턴, 그리고 23개의 독립적인 4-패턴 선형 조합을 거의 선형 시간 내에 세는 데 가능한 대체 대수적 프레임워크인 코너 트리 공식을 소개한다. 주요 기여는 나머지 하나의 4-패턴을 거의 최적의 $\frac{1}{2}$-시간 알고리즘으로 세는 데 성공하여 $\tilde{O}(n^{3/2})$ 복잡도를 달성한 것으로, 비모수적 독립성 검정에 기존 방법보다 향상된 성능을 제공한다.

ABSTRACT

A sample of n generic points in the xy-plane defines a permutation that relates their ranks along the two axes. Every subset of k points similarly defines a pattern, which occurs in that permutation. The number of occurrences of small patterns in a large permutation arises in many areas, including nonparametric statistics. It is therefore desirable to count them more efficiently than the straightforward ~O(n^k) time algorithm. This work proposes new algorithms for counting patterns. We show that all patterns of order 2 and 3, as well as eight patterns of order 4, can be counted in nearly linear time. To that end, we develop an algebraic framework that we call corner tree formulas. Our approach generalizes the existing methods and allows a systematic study of their scope. Using the machinery of corner trees, we find twenty-three independent linear combinations of order-4 patterns, that can be computed in time ~O(n). We also describe an algorithm that counts one of the remaining 4-patterns, and hence all 4-patterns, in time ~O(n^(3/2)). As a practical application, we provide a nearly linear time computation of a statistic by Yanagimoto (1970), Bergsma and Dassios (2010). This statistic yields a natural and strongly consistent variant of Hoeffding's test for independence of X and Y, given a random sample as above. This improves upon the so far most efficient ~O(n^2) algorithm.

연구 동기 및 목표

• 작은 순열 패턴을 세는 효율적인 알고리즘을 개발하는 것. 이는 비모수적 통계학과 조합론에서 매우 중요하다.
• 크기 $n$인 순열에서 $k$-패턴에 대해 난이도가 $\tilde{O}(n^k)$인 단순 패턴 세기의 한계를 극복하는 것.
• 체계적으로 효율적인 패턴 세기의 범위를 포괄하는 대수적 프레임워크를 사용해 기존 방법을 일반화하는 것.
• 랭크 기반 통계적 검정(예: 헤핑딩의 검정 및 요나기모토의 독립성 검정)의 계산을 가속화함으로써 빠른 계산을 가능하게 하는 것.
• 패턴 세기의 계산적 한계를 탐색하고 어떤 선형 조합이 효율적인 알고리즘을 허용하는지 규명하는 것.

제안 방법

• 저자들은 '코너 트리 공식'—순열 내 상대적 순서 배열의 트리 구조적 구성에 대한 합으로 패턴 수를 모델링하는 대수적 프레임워크—를 도입한다.
• 두 차원 합 트리를 사용하여 수평 스트립을 가로질러 요소 쌍을 효율적으로 유지하고 질의함으로써 복잡한 4-패턴(예: 3241 및 3214)의 빠른 세기 가능.
• 순열을 $m = \tilde{O}(\tbinom{n}{k})$개의 스트립으로 분할하고 $a \to 0.5$일 때 $\tilde{O}(n^{2-a})$ 시간과 $\tilde{O}(n^{1+a})$ 공간 사이의 트레이드오���을 통해 계산과 메모리 사용을 균형 잡는다.
• 3241 패턴의 경우, 하향식 스캔과 희소 2D 합 트리 위의 박스 합 질의를 조합하여 321과 34 쌍의 유효한 병합을 $\tilde{O}(n^{3/2})$ 시간 내에 세는 알고리즘을 구현한다.
• 패턴의 선형 조합은 코너 트리 위의 합으로 표현함으로써 트리 구조 위에서 동적 프로그래밍을 통해 효율적으로 평가 가능하다.
• 이 방법은 파이썬 패키지 `cornertree.py`에 구현되어 있으며, 2차원 범위 질의를 효율적으로 처리하는 `ProductTree` 클래스를 포함한다.

실험 결과

연구 질문

• RQ1 만약 어떤 패턴 수나 그 선형 조합이 코너 트리에 의해 스펙트럼을 형성하지 않는다면, 이들을 $\tilde{O}(n)$ 시간 내에 계산할 수 있는가?
• RQ2 순열의 전체 4-프로파일을 계산하는 데 필요한 계산 복잡도는 무엇인가?
• RQ3 $k$-정점 코너 트리가 생성하는 패턴 조합의 차원은 얼마이며, 이들이 모든 $k$-패턴을 스펙트럼으로 포함하는가?
• RQ4 코너 트리 이외의 다른 나무 유사한 구조는 효율적인 패턴 세기 알고리즘을 도출할 수 있는가?
• RQ5 일반적인 $k$에 대해 $k$-프로파일을 $\tilde{O}(n^{d(k)})$ 시간 내에 계산할 수 있는 최소한의 $d(k)$는 얼마인가?

주요 결과

• 2- 및 3-패턴, 그리고 여덟 개의 특정한 4-패턴은 코너 트리 공식을 통해 $\tilde{O}(n)$ 시간 내에 세어질 수 있다.
• 논문은 23개의 독립적인 4-패턴 선형 조합이 $\tilde{O}(n)$ 시간 내에 계산 가능하다고 규명하여 효율적 세기의 범위를 확장한다.
• 3241 패턴을 $\tilde{O}(n^{3/2})$ 시간 내에 세는 새로운 알고리즘이 도입되었으며, 이는 모든 4-패턴이 동일한 시간 복잡도 내에서 세어질 수 있음을 시사한다.
• 요나기모토의 독립성 검정 통계량을 계산하는 데 있어 기존의 $\tilde{O}(n^2)$에서 $\tilde{O}(n^{3/2})$로 성능 향상을 달성한다.
• 저자들은 $k \leq 7$에 대해 $k$-정점 코너 트리가 생성하는 패턴 조합의 공간을 계산하였으며, 이러한 트리의 수가 $O(11.07^k)$로 증가함을 보였는데, 이는 $k!$에 비해 지수적 증가보다는 하위지수적 증가임을 의미한다.
• 이 프레임워크는 효율적 패턴 세기의 체계적 연구를 가능하게 하며, 더 나은 경우 분할 또는 다른 나무 구조의 활용을 통해 향후 성능 향상 가능성을 시사한다.