[논문 리뷰] Effective Straggler Mitigation: Which Clones Should Attack and When?

Mehmet Fatih Aktaş, Pei Peng외 1명|arXiv (Cornell University)|2017. 10. 02.

Advanced Data Storage Technologies참고 문헌 5인용 수 6

한 줄 요약

이 논문은 분산 컴퓨팅에서 느린 작업자(straggler) 완화를 위해 복제(replication)를 사용할지 또는 코딩(coding)을 사용할지 언제, 그리고 어떻게 사용할지를 조사한다. 코딩은 더 세밀한 재현성 제어를 가능하게 하며, 특히 비정상적인 작업 실행 시간 분포를 보일 경우 지연과 비용을 모두 감소시키는 데 복제보다 뛰어나다는 것을 보여준다. 재현성의 지연은 코딩에 대해서는 효과적이지 않지만 복제에 대해서는 유용하며, 최적의 성능는 지연 시간이 아닌 재현성 정도를 조정함으로써 달성된다.

ABSTRACT

Redundancy for straggler mitigation, originally in data download and more recently in distributed computing context, has been shown to be effective both in theory and practice. Analysis of systems with redundancy has drawn significant attention and numerous papers have studied pain and gain of redundancy under various service models and assumptions on the straggler characteristics. We here present a cost (pain) vs. latency (gain) analysis of using simple replication or erasure coding for straggler mitigation in executing jobs with many tasks. We quantify the effect of the tail of task execution times and discuss tail heaviness as a decisive parameter for the cost and latency of using redundancy. Specifically, we find that coded redundancy achieves better cost vs. latency and allows for greater achievable latency and cost tradeoff region compared to replication and can yield reduction in both cost and latency under less heavy tailed execution times. We show that delaying redundancy is not effective in reducing cost.

연구 동기 및 목표

• 느린 작업자 영향을 받는 분산 컴퓨팅 환경에서 지연과 비용 간의 트레이드오프를 분석하기 위해.
• 지연된 복제와 지연된 코딩의 효과성을 비교하여 느린 작업자를 완화하기 위해.
• 지연과 비용을 동시에 감소시키는 데서 코딩이 복제를 능가하는 조건을 규명하기 위해.
• 지연을 증가시키지 않으면서 비용을 최소화하기 위한 최적의 재현성 시점과 수준을 규명하기 위해.

제안 방법

• 작업 실행을 노드에 분할된 k개의 작업으로 모델링하며, 작업이 시간 Δ 이내에 완료되지 않으면서만 재현성(복제 또는 코딩)을 도입한다.
• 실제 워크로드를 반영하기 위해 지수분포, 이동된 지수분포(SExp), 그리고 파레토 분포의 세 가지 작업 실행 시간 분포를 사용한다.
• 복제 및 코딩의 경우, 작업 취소 여부에 따라 예상 지연과 비용에 대한 정확한 해석적 표현을 유도한다.
• 조화수, 비완전 베타 함수, 감마 함수와 같은 특수 함수를 사용하여 다양한 재현성 기반 설계에서의 시스템 행동을 모델링한다.
• 제로 지연 및 지연된 재현성 전략을 비교하여 비중심 꼬리 무게 수준에 따라 비용-지연 트레이드오프를 평가한다.
• 시뮬레이션과 해석적 경계를 활용하여 지연된 코딩의 이중단계 행동을 검증하고, 무거운 꼬리 하에서 코딩이 우월함을 입증한다.

실험 결과

연구 질문

• RQ1 지연된 재현성은 코딩 시스템에서 비용을 현저히 증가시키지 않고 효과적으로 감소시키는가?
• RQ2 복제와 코딩 중 어떤 선택이 비용-지연 트레이드오프에 영향을 미치는가?
• RQ3 어떤 조건에서 재현성이 지연과 비용을 동시에 감소시킬 수 있는가?
• RQ4 비용을 최소화하면서 지연을 유지하기 위한 최적의 재현성 시점과 정도는 무엇인가?
• RQ5 작업 실행 시간의 꼬리의 두께가 재현성의 효과성에 어떻게 影향을 미치는가?

주요 결과

• 코딩을 통한 재현성은 더 세밀한 재현성 제어를 가능하게 하므로 복제보다 더 나은 지연-비용 트레이드오프를 달성한다.
• 지연된 재현성은 코딩에 대해서는 효과적이지 않으며, 비용 절감 효과가 나타나기 전까지는 지연이 크게 증가하므로 재현성 정도 조정이 최적화 전략으로 더 유리하다.
• 비정상적인 작업 실행 시간(예: α < 1.5 인 파레토 분포) 하에서는 복제와 코딩 모두 지연을 감소시키면서 기준 비용 이하로 유지할 수 있으나, 코딩은 꼬리 인덱스 제약 조건을 크게 완화한다.
• 제로 지연 코딩에서는 무거운 꼬리 분포 하에서 기준값 없이 비용을 최대 50% 감소시키고 지연을 최대 60%까지 줄일 수 있다.
• 기준 비용을 초과하지 않으면서 도달 가능한 최소 지연은 복제에서는 꼬리 인덱스 α < 1.5 일 때만 가능하지만, 코딩에서는 k가 증가함에 따라 제약 조건이 완화되어 더 큰 작업에 대해 비용 없이 지연을 줄일 수 있다.
• 시뮬레이션은 지연된 코딩 재현성에서 이중단계 행동을 확인한다: 초기에는 지연 증가와 함께 비용 절감 효과가 미미하며, 임계 지연 임계값을 넘어서야만 큰 비용 절감 효과가 나타난다.