[논문 리뷰] Parallel Model Counting with CUDA: Algorithm Engineering for Efficient Hardware Utilization

Jeffrey M. Dudek, Moshe Y. Vardi외 1명|arXiv (Cornell University)|2020. 06. 28.

Tensor decomposition and applications참고 문헌 64인용 수 8

한 줄 요약

이 논문은 트리 분해 솔버의 포트폴리오와 텐서 조인 연결을 기반으로 한 TensorFlow를 활용한 병렬 가중 모델 카운팅 기법인 TensorOrder2를 제안한다. 다핵 CPU와 GPU를 활용하여, 사전 처리 후 11%의 벤치마크에서 기존 카운터를 능가하고, PAR-2 점수에서 두 번째로 낮은 성능을 기록하여 포트폴리오 솔버 전략의 효과적인 구성 요소임을 입증한다.

ABSTRACT

A promising new algebraic approach to weighted model counting makes use of tensor networks, following a reduction from weighted model counting to tensor-network contraction. Prior work has focused on analyzing the single-core performance of this approach, and demonstrated that it is an effective addition to the current portfolio of weighted-model-counting algorithms. In this work, we explore the impact of multi-core and GPU use on tensor-network contraction for weighted model counting. To leverage multiple cores, we implement a parallel portfolio of tree-decomposition solvers to find an order to contract tensors. To leverage a GPU, we use TensorFlow to perform the contractions. We compare the resulting weighted model counter on 1914 standard weighted model counting benchmarks and show that it significantly improves the virtual best solver.

연구 동기 및 목표

• 현대의 병렬 및 GPU 하드웨어를 활용하여 텐서 네트워크 기반 가중 모델 카운팅의 성능을 향상시키기.
• Tensor 네트워크 조인의 성능 저하 문제를 해결하기 위해 TensorFlow와 인덱스 슬라이싱를 통한 효율적인 GPU 실행을 가능하게 하기.
• 단일 코어 접근 방식을 초월하여 병렬 포트폴리오 형태의 트리 분해 솔버를 도입하여 계획 효율성을 향상시키기.
• 사전 처리 및 실행 단계를 포함한 전체 가중 모델 카운팅 파이프라인에서 다핵 및 GPU 가속의 영향을 평가하기.
• 최종적으로 도출된 시스템인 TensorOrder2가 최신 기술 수준의 가중 모델 카운터 포트폴리오에 경쟁력 있는 기여를 할 수 있음을 입증하기.

제안 방법

• 단일 코어 트리 분해 솔버(예: Tamaki, FlowCutter, htd, Hicks)의 병렬 포트폴리오가 텐서 네트워크 조인의 계획 단계를 가속화하는 데 사용된다.
• 텐서 조인 연산이 TensorFlow를 통해 GPU로 이관되어 대규모 텐서 네트워크에서 고처리량 계산을 가능하게 한다.
• 인덱스 슬라이싱를 구현하여 GPU 메모리 사용량을 줄이고, 이는 더 큰 인스턴스 처리를 가능하게 하지만 계산 시간 증가를 수반한다.
• 다양한 하드웨어 구성(CPU1, CPU8, GPU)에서의 실행 성능를 최적화하기 위해 성능 요인 최적화 전략을 통합한다.
• 3단계 알고리즘을 적용한다: (1) 가중 모델 카운팅을 텐서 네트워크 조인으로 환원, (2) 솔버를 통한 조인 순서 계획, (3) TensorFlow 기반 GPU 가속 실행.
• pmc-eq 사전 처리기와의 통합을 지원하여 딱딱한 벤치마크에서 성능 향상을 크게 개선한다.

실험 결과

연구 질문

• RQ1 트리 분해 솔버의 병렬 포트폴리오가 단일 코어 솔버 대비 계획 성능을 크게 향상시킬 수 있는가?
• RQ2 TensorFlow 기반 GPU 가속과 인덱스 슬라이싱가 가중 모델 카운팅을 위한 텐서 네트워크 조인에서 측정 가능한 속도 향상을 이끌 수 있는가?
• RQ3 사전 처리 유무에 관계없이 제안된 TensorOrder2의 성능가 최신 기술 대비 어떻게 비교되는가?
• RQ4 분기 분해 솔버는 포트폴리오에 효과적으로 통합될 수 있으며, 전체 성능 향상에 기여하는가?
• RQ5 다양한 벤치마크에서 최적의 하드웨어 구성과 성능 요인은 무엇인가?

주요 결과

• P4 포트폴리오와 GPU 구성으로 1,914개의 벤치마크 중 1,549개를 사전 처리 후 해결하여 총 해결 수와 PAR-2 점수에서 둘째로 높은 순위를 기록했다.
• P4+GPU 구성은 사전 처리 후 200개, 사전 처리 없이 158개의 벤치마크에서 가장 빠른 성능을 기록하여 이들 집합에서 모든 다른 카운터를 능가했다.
• 인덱스 슬라이싱는 메모리 사용량을 크게 감소시켜 더 큰 인스턴스에서 GPU 실행을 가능하게 했지만, 계산 시간 증가를 수반했으며, 딱딱한 벤치마크에서는 GPU 가속 효과로 상쇄되었다.
• 트리 분해 솔버의 병렬 포트폴리오(P4)는 단일 코어 솔버 대비 계획 시간을 감소시켰으며, P4+CPU8 구성이 계획 단계에서 가장 뛰어난 성능를 보였다.
• 분기 분해 솔버는 이론적으로 포트폴리오에 통합 가능했지만, 실질적인 영향은 미미했으며, 전체 솔루션 품질 향상에 기여하지 못했다.
• GPU 구성은 실행 단계에서 가장 높은 속도 향상을 기록했으며, 특히 딱딱한 벤치마크에서 두드러진 성능 향상을 보였다. 반면 CPU 병렬 처리는 계획 단계에서만 약간의 성능 향상을 제공했다.