[논문 리뷰] RAO-SS: A Prototype of Run-time Auto-tuning Facility for Sparse Direct Solvers

Takahiro Katagiri, Yoshinori Ishii외 1명|arXiv (Cornell University)|2024. 08. 21.

Parallel Computing and Optimization Techniques참고 문헌 2인용 수 3

한 줄 요약

이 논문은 RAO-SS를 제시하며, Autopilot 미들웨어를 통해 퍼지 논리 기반으로 런타임에 입력 행렬 특성에 따라 최적의 솔버 파라미터를 동적으로 선택하는 런타임 자동 튜닝 시스템이다. SuperLU에서 평가한 결과, 기본 설정 대비 평균 1.2배의 성능 향상과 최대 3.6배의 성능 향상을 달성했으며, 소프트웨어 오버헤드는 극히 미미했다.

ABSTRACT

In this paper, a run-time auto-tuning method for performance parameters according to input matrices is proposed. RAO-SS (Run-time Auto-tuning Optimizer for Sparse Solvers), which is a prototype of auto-tuning software using the proposed method, is also evaluated. The RAO-SS is implemented with the Autopilot, which is middle-ware to support run-time auto-tuning with fuzzy logic function. The target numerical library is the SuperLU, which is a sparse direct solver for linear equations. The result indicated that: (1) the speedup factors of 1.2 for average and 3.6 for maximum to default executions were obtained; (2) the software overhead of the Autopilot can be ignored in RAO-SS.

연구 동기 및 목표

• 다양한 입력 행렬에 걸쳐 희소 직접 해법기의 최적 성능 파라미터를 선택하는 데 도전하는 것.
• 행렬 특성에 기반해 런타임에 파라미터를 적응적으로 조정하여 성능 변동성을 감소시키고 해법기 효율을 향상시키는 것.
• 런타임 자동 튜닝을 희소 선형 해법기에 통합하는 것의 실현 가능성과 효율성을 평가하는 것.
• 퍼지 논리 기반 자동 튜닝이 상당한 소프트웨어 오버헤드 없이도 해법기 성능을 크게 향상시킬 수 있음을 보여주는 것.

제안 방법

• RAO-SS는 런타임 중 파라미터 선택을 안내하기 위해 퍼지 논리 함수를 사용하는 Autopilot 미들웨어를 활용한다.
• 시스템은 희소성 패턴, 조건수, 크기 등의 입력 행렬 특성을 분석하여 튜닝 결정을 지원한다.
• 퍼지 논리 규칙는 행렬 특징을 최적의 해법기 설정 파라미터로 매핑하기 위해 정의된다.
• 이 방법은 실행 중에 파라미터를 동적으로 조정하여 다양한 행렬 유형에 적응할 수 있도록 한다.
• 프로토타입은 실제 세계의 행렬에서 성능을 평가하기 위해 SuperLU 희소 직접 해법기에 통합되었다.
• 소프트웨어 오버헤드는 측정되었으며, 극히 미미한 것으로 나타나 실용적 구현 가능성을 확인했다.

실험 결과

연구 질문

• RQ1 행렬 특성에 기반한 런타임 자동 튜닝이 희소 직접 해법기의 성능을 상당히 향상시킬 수 있는가?
• RQ2 다양한 행렬 유형에 걸쳐 퍼지 논리 기반 접근법이 최적의 해법기 파라미터를 효과적으로 선택할 수 있는가?
• RQ3 실시간 실행에서 자동 튜닝 미들웨어가 유도하는 성능 오버헤드는 어느 정도인가?
• RQ4 동적 파라미터 튜닝은 정적 기본 설정 대비 성능 변동성을 어느 정도 감소시킬 수 있는가?

주요 결과

• RAO-SS는 테스트된 모든 행렬에 대해 기본 설정 대비 평균 1.2배의 성능 향상을 달성했다.
• 특정 행렬 유형에 대해 관측된 최대 성능 향상은 3.6배에 달했으며, 상당한 성능 향상을 보여주었다.
• Autopilot 미들웨어가 유도한 소프트웨어 오버헤드는 극히 미미한 것으로 확인되어 최소한의 런타임 비용임을 시사했다.
• 퍼지 논리 기반 튜닝 전략은 해법기 파라미터를 행렬 고유의 특성에 효과적으로 적응시켰다.
• 결과적으로, 런타임 자동 튜닝이 효율성을 해치지 않으면서도 해법기 성능을 상당히 향상시킬 수 있음을 확인했다.