[논문 리뷰] numpywren: serverless linear algebra

Vaishaal Shankar, Karl Krauth외 6명|arXiv (Cornell University)|2018. 10. 23.

Cloud Computing and Resource Management참고 문헌 28인용 수 67

한 줄 요약

numpywren은 서버리스 컴퓨팅으로 대규모 선형대수를 가능하게 하며, 핵심 알고리즘에서 ScaLAPACK과 거의 비슷한 성능을 달성하고 계산 효율은 현저히 향상시키며, 서버리스 로컬성의 한계를 강조합니다.

ABSTRACT

Linear algebra operations are widely used in scientific computing and machine learning applications. However, it is challenging for scientists and data analysts to run linear algebra at scales beyond a single machine. Traditional approaches either require access to supercomputing clusters, or impose configuration and cluster management challenges. In this paper we show how the disaggregation of storage and compute resources in so-called "serverless" environments, combined with compute-intensive workload characteristics, can be exploited to achieve elastic scalability and ease of management. We present numpywren, a system for linear algebra built on a serverless architecture. We also introduce LAmbdaPACK, a domain-specific language designed to implement highly parallel linear algebra algorithms in a serverless setting. We show that, for certain linear algebra algorithms such as matrix multiply, singular value decomposition, and Cholesky decomposition, numpywren's performance (completion time) is within 33% of ScaLAPACK, and its compute efficiency (total CPU-hours) is up to 240% better due to elasticity, while providing an easier to use interface and better fault tolerance. At the same time, we show that the inability of serverless runtimes to exploit locality across the cores in a machine fundamentally limits their network efficiency, which limits performance on other algorithms such as QR factorization. This highlights how cloud providers could better support these types of computations through small changes in their infrastructure.

연구 동기 및 목표

• 단일 머신을 넘어선 확장 가능한 선형대수의 필요성을 제시하고 클러스터 프로비저닝의 복잡성을 감소시킨다.
• 선형대수 워크로드에서 탄력적 확장성을 위해 저장소와 연산을 분리하는 서버리스 아키텍처를 제안한다.
• 무상태 환경에서 타일링된 행렬의 병렬 선형대수를 표현하기 위한 DSL인 LAmbdaPACK를 소개한다.
• 전통적인 HPC 및 fault-tolerant 데이터 병렬 시스템과 비교한 성능 및 내결함성 이점을 입증한다.

제안 방법

• 선형대수 작업을 무상태 함수로 실행하고 중간 상태를 분산 객체 스토어로 관리하는 서버리스 시스템(numpywren)을 개발한다.
• 타일링된 선형대수 알고리즘을 DAG 유사 의존 그래프로 표현하기 위한 도메인 특화 언어인 LAmbdaPACK를 도입한다.
• LAmbdaPACK 프로그램에서 실행 가능한 작업 그래프를 생성하기 위해 분산된 의존성 분석을 사용한다.
• 임대(리스)와 탄력적 프로비저너로 워커를 관리하는 내결함성 실행 모델을 구현한다.
• GEMM, QR, SVD 및 Cholesky에 대한 종단 간 성능을 ScaLAPACK 및 Dask와 비교하여 평가한다.
• 서버리스 런타임의 로컬리티 활용 부족으로 인한 한계와 잠재적 인프라 조정에 대해 논의한다.

실험 결과

연구 질문

• RQ1 분산 저장소와 함께 서버리스 런타임이 대규모 선형대수를 효율적으로 실행할 수 있는가?
• RQ2 완료 시간과 CPU 시간에서 서버리스 선형대수가 전통적 HPC 라이브러리와 얼마나 근접할 수 있는가?
• RQ3 선형대수 알고리즘에서 무상태 작업 설계의 네트워크 트래픽과 내결함성에 대한 트레이드오프는 무엇인가?
• RQ4 LAmbdaPACK가 복잡한 선형대수 DAG의 간결한 표현과 확장 가능한 스케줄링을 어떻게 가능하게 하는가?

주요 결과

• matrix multiply, SVD, 및 Cholesky 분해에 대한 Numpywren의 성능은 ScaLAPACK의 33% 이내이다.
• 탄력성으로 인해 계산 효율이 최대 240% 향상된다.
• 1M x 1M 행렬의 Cholesky에 대해 Numpywren은 ScaLAPACK 완료 시간의 36% 이내이며 CPU 시간을 33% 절약할 수 있다.
• Dask와 비교하여, Numpywren은 fault-tolerant 데이터 병렬 워크로드에서 최대 320% 더 빠를 수 있다.
• 서버리스 로컬리티 한계는 QR 인수분해와 같은 특정 알고리즘에서 네트워크 효율을 저하시켜, 공급자의 인프라 설계 기회를 강조한다.
• LAmbdaPACK는 2 KB 정도의 ~백만 개 노드 규모의 간결하고 대규모 DAG 표현을 가능하게 하며 Cholesky, TSQR, LU, SVD와 같은 핵심 알고리즘을 지원한다.