[논문 리뷰] Launchpad: A Programming Model for Distributed Machine Learning Research

Fan Yang, Gabriel Barth-Maron외 6명|arXiv (Cornell University)|2021. 06. 07.

Data Stream Mining Techniques참고 문헌 18인용 수 5

한 줄 요약

Launchpad는 계산을 원격 프로시저 호출(RPC)로 연결된 서비스 노드로 이루어진 방향성 그래프로 표현함으로써 분산 기계학습 시스템의 설계와 구현을 단순화하는 프로그래밍 모델이다. 프로그램 정의와 실행을 분리함으로써 포트폴리오 가능하고 모듈화되며 확장 가능한 복잡한 알고리즘(예: 액터-러닝 강화학습 및 진화 전략)의 구현을 최소한의 부가 코드와 명확한 통신 구조로 가능하게 한다.

ABSTRACT

A major driver behind the success of modern machine learning algorithms has been their ability to process ever-larger amounts of data. As a result, the use of distributed systems in both research and production has become increasingly prevalent as a means to scale to this growing data. At the same time, however, distributing the learning process can drastically complicate the implementation of even simple algorithms. This is especially problematic as many machine learning practitioners are not well-versed in the design of distributed systems, let alone those that have complicated communication topologies. In this work we introduce Launchpad, a programming model that simplifies the process of defining and launching distributed systems that is specifically tailored towards a machine learning audience. We describe our framework, its design philosophy and implementation, and give a number of examples of common learning algorithms whose designs are greatly simplified by this approach.

연구 동기 및 목표

• 분산 기계학습 시스템을 구현할 때의 복잡성을 줄이기 위해, 특히 분산 시스템 설계에 익숙하지 않은 연구자들을 대상으로 하기 위함.
• 실행 기반 메커니즘과 프로그램 정의를 분리하는 고수준이고 조합 가능한 추상화를 제공하기 위함.
• 현대 기계학습 워크로드에서 흔한 통신 구조(예: 액터-러닝 아키텍처 및 파라미터 진화)의 명시적 사양을 단순화하기 위함.
• 로컬 머신, 클라우드 또는 온프레미스 클러스터와 같은 다양한 환경 간 이식 가능한 실행을 가능하게 하기 위해 플러그인 방식의 런처를 제공하기 위함.
• 성능과 확장성을 유지하면서도 부가 코드와 실수 유발 가능성이 높은 저수준 통신 설정을 최소화하기 위함.

제안 방법

• 분산 프로그램을 서비스 노드로 이루어진 방향성 그래프로 표현하며, 간선은 원격 프로시저 호출(RPC)을 통한 통신을 나타낸다.
• 다양한 배포 환경에 대응하기 위해 플러그인 방식의 런처를 통해 프로그램 정의(그래프 구조)와 실행을 분리한다.
• 저지연, 신뢰성 있는 노드 간 통신을 보장하기 위해 gRPC 기반의 통신 레이어와 고유한 추상화를 사용한다.
• 계산 및 통신 논리를 캡슐화하는 파이썬 클래스로 노드를 정의하며, 노드 핸들에 의한 명시적 종속성 해결을 지원한다.
• 공통된 중심 그래프 사양을 사용해 액터, 러너, 평가자, 파라미터 서버 등의 컴포onent를 모듈식으로 조합할 수 있도록 한다.
• 노드가 별도의 프로세스나 스레드에서 실행되도록 허용하고, 그래프와 RPC를 통해 조율함으로써 비동기 및 동시 실행을 가능하게 한다.

실험 결과

연구 질문

• RQ1 성능나 이식 가능성에 손상이 가지 않도록 하면서도, 기계학습 연구에서 복잡한 분산 통신 구조를 명시하는 데 있어 어떻게 단순화할 수 있는가?
• RQ2 비분산 시스템 전문가가 아닌 이들이 분산 기계학습 시스템을 작성할 때의 인지적 부담과 구현 난이도를 줄일 수 있는 추상화는 무엇인가?
• RQ3 고수준의 그래프 기반 프로그래밍 모델이 액터-러닝 및 진화 전략과 같은 일반적인 기계학습 패턴을 효과적으로 표현하면서도 효율적이고 확장 가능할 수 있는가?
• RQ4 프로그램 정의를 배포 환경에서 분리함으로써 로컬 머신, 클라우드 또는 클러스터에서 코드 변경 최소화로 실행이 가능하게 할 수 있는가?
• RQ5 이러한 모델이 분산 기계학습 시스템에서의 부가 코드와 실수 유발 가능성이 높은 통신 논리 구현을 어느 정도 줄일 수 있는가?

주요 결과

• Launchpad는 액터-러닝 강화학습 및 진화 전략과 같은 복잡한 분산 기계학습 알고리즘을 훨씬 낮은 코드 복잡도와 더 명확한 프로그램 구조로 개발할 수 있도록 한다.
• 그래프 기반 모델은 통신 구조를 명시적이고 조합 가능하게 만들며, 비표준 RPC나 프레임워크 내장 통신에 비해 가독성과 유지보수성 향상에 기여한다.
• 프로그램 정의와 런처의 분리 덕분에 동일한 프로그램이 로컬 개발 환경, 클라우드 플랫폼, 온프레미스 클러스터 등 다양한 환경에 쉽게 배포될 수 있다.
• gRPC와 경량 추상화 계층에 의존함으로써 Launchpad는 낮은 통신 오버헤드를 유지하고 수동으로 작성한 RPC 시스템과 유사한 성능을 확보한다.
• 강화학습에서 데이터 수집의 효율적 병렬화를 위해 그래프 정의된 구조를 통해 여러 액터 노드를 동시에 실행하고 통신할 수 있도록 지원한다.
• API 설계를 통해 순환 종속성을 억제함으로써 명확성 향상과 런타임 위험 감소를 도모하지만, 연기된 구성 방식을 통해 여전히 순환 그래프를 허용한다.