[논문 리뷰] Palgol: A High-Level DSL for Vertex-Centric Graph Processing with Remote Data Access

Yongzhe Zhang, Hsiang−Shang Ko외 1명|arXiv (Cornell University)|2017. 03. 28.

Graph Theory and Algorithms참고 문헌 20인용 수 6

한 줄 요약

Palgol은 정점 중심 그래프 처리를 위한 고수준 도메인 특화 언어(DSL)로, 체인 액세스를 통한 임의의 정점에서의 속성 읽기 및 왤기 기능을 통해 효율적인 원격 데이터 액세스를 가능하게 하여 Pregel에서 복잡하고 동적인 통신 패턴을 표현적으로 구현할 수 있도록 한다. 이는 수작업 최적화된 구현과 비교해도 성능이 유사한 효율적인 Pregel 코드로 컴파일된다.

ABSTRACT

Pregel is a popular distributed computing model for dealing with large-scale graphs. However, it can be tricky to implement graph algorithms correctly and efficiently in Pregel's vertex-centric model, especially when the algorithm has multiple computation stages, complicated data dependencies, or even communication over dynamic internal data structures. Some domain-specific languages (DSLs) have been proposed to provide more intuitive ways to implement graph algorithms, but due to the lack of support for remote access --- reading or writing attributes of other vertices through references --- they cannot handle the above mentioned dynamic communication, causing a class of Pregel algorithms with fast convergence impossible to implement. To address this problem, we design and implement Palgol, a more declarative and powerful DSL which supports remote access. In particular, programmers can use a more declarative syntax called chain access to naturally specify dynamic communication as if directly reading data on arbitrary remote vertices. By analyzing the logic patterns of chain access, we provide a novel algorithm for compiling Palgol programs to efficient Pregel code. We demonstrate the power of Palgol by using it to implement several practical Pregel algorithms, and the evaluation result shows that the efficiency of Palgol is comparable with that of hand-written code.

연구 동기 및 목표

• 기존 Pregel 프로그래밍용 DSL의 한계를 해결한다. 즉, 데이터 액세스를 이웃 정점에만 국한하고, 동적이고 국소적이지 않은 통신 패턴을 표현할 수 없다.
• 부모 포인터와 같은 동적 내부 데이터 구조를 유지하고 액세스하는 데 의존하는 고급 Pregel 알고리즘(예: Shiloach-Vishkin 연결 요소 및 리스트 랭킹)의 구현을 가능하게 한다.
• 안전한 원격 읽기 및 왤기 기능을 지원하면서도 Pregel의 메시지 전달 모델로의 효율적 컴파일을 유지하는 선언적 언어 모델을 설계한다.
• 체인 액세스(연속적인 원격 참조)를 최소한의 메시지 전달 패턴으로 최적화하여 통신 오버헤드를 줄이는 새로운 컴파일 전략을 개발한다.
• 고수준의 Palgol 프로그램이 수작업 최적화된 Pregel 코드와 비교해도 성능이 유사함을 입증함으로써, 고수준 추상화와 저수준 효율성 사이의 격차를 해소한다.

제안 방법

• 계산의 기본 단위로 알고리즘 슈퍼스텝을 도입하여, 슈퍼스텝 간에 원격 읽기 및 왤기 작업을 안전하고 체계적으로 순서화한다.
• 체인 액세스—연속된 참조 체인을 통해 임의의 원격 정점의 속성을 직접 읽을 수 있는 문법—를 사용해 원격 액세스를 첫째로 지원하는 선언적 DSL인 Palgol을 설계한다.
• 체인 액세스 패턴을 정적 분석하여 Pregel의 효율적인 메시지 전달 시퀀스로 컴파일하고, 통신 라운드 수를 최소화한다.
• Green-Marl에서 영감을 얻은 프로그램 융합 기법을 사용해 원자적 Palgol 단계를 하나의 루프 본문으로 통합하여 런타임 오버헤드를 줄이고 성능을 향상시킨다.
• 이중 단계 컴파일 모델을 구현한다. 첫 번째 단계에서는 Palgol 단계를 Pregel 호환 가능한 계산 함수로 변환하고, 두 번째 단계에서는 종속성 분석과 메시지 집계를 사용해 원격 액세스 패턴을 최적화한다.
• 조합자(순서 및 반복)를 사용해 Fregel의 기능적 조합 모델을 활용하여 원자적 단계에서 복잡한 알고리즘을 조합함으로써 정확성과 모듈성을 보장한다.

실험 결과

연구 질문

• RQ1 Pregel용 고수준 DSL이 이웃 정점 외의 원격 정점까지의 데이터 액세스를 지원할 수 있는가? 이는 동적 내부 데이터 구조에 의존하는 알고리즘의 구현을 가능하게 하는가?
• RQ2 특히 다중 홉을 포함한 체인 액세스와 같은 원격 액세스는 Pregel의 메시지 전달 모델로 효율적으로 컴파일될 수 있는가? 이 과정에서 과도한 통신 오버헤드가 발생하지 않는가?
• RQ3 선언적 고수준 언어인 Palgol이 실제 그래프 알고리즘에서 수작업 최적화된 Pregel 코드와 비교해 어느 정도 성능을 달성할 수 있는가?
• RQ4 어떤 언어 설계 원칙이 복잡한 충돌 검출 또는 런타임 검사 없이도 정점 중심 모델에서 안전하고 효율적인 원격 왤기를 가능하게 하는가?
• RQ5 Fregel의 조합적 기능 프로그래밍 모델은 원격 액세스 기능을 확장하여도 효율성과 표현력을 유지할 수 있는가?

주요 결과

• Palgol은 기존 DSL에서 표현할 수 없는 복잡한 Pregel 알고리즘—예를 들어 Shiloach-Vishkin 연결 요소 알고리즘 및 리스트 랭킹—의 구현을 가능하게 한다. 이는 비국소적이고 동적인 통신 패턴에 의존하기 때문이다.
• Palgol의 체인 액세스 메커니즘은 프로그래머가 임의의 정점에서의 원격 읽기를 직접 데이터 액세스인 것처럼 작성할 수 있도록 하여 코드의 명확성과 유지보수성 향상에 기여한다.
• 제안된 체인 액세스 컴파일링 논리 시스템은 통신 비용을 줄이기 위해 메시지 전달 라운드 수를 최소화하여 Pregel 모델에 효율적으로 매핑한다.
• 평가 결과, Palgol로 생성된 코드는 수작업으로 작성된 Pregel의 구현과 비교해 유사한 성능을 보이며, 고수준 추상화가 효율성을 희생하지 않음을 입증한다.
• Fregel의 조합 모델과 Green-Marl의 융합 최적화를 결합함으로써 Palgol은 고수준의 표현력과 저수준의 효율성을 모두 확보하여 그래프 DSL 설계에서 핵심적인 격차를 메운다.
• 알고리즘 슈퍼스텝 모델을 통해 Palgol은 원격 왤기를 안전하게 지원하며, 복잡한 충돌 검출을 피하면서도 동적 데이터 구조 업데이트를 가능하게 한다.