[논문 리뷰] Coded FFT and Its Communication Overhead

Haewon Jeong, Tze Meng Low외 1명|arXiv (Cornell University)|2018. 05. 24.

Advanced Data Storage Technologies참고 문헌 29인용 수 6

한 줄 요약

이 논문은 분산 FFT 계산에서 고장 내성(fault tolerance)을 향상시키기 위해 체계적 MDS 코드를 사용하는 인코딩된 FFT 알고리즘을 제안한다. 통신 효율적인 다중 브로드캐스트 및 다중 리듀스 기반의 MDS 코드를 활용함으로써, 패리티 노드 수가 o(log K) 이하일 경우 인코딩 오버헤드가 무시할 만큼 작아지며, 이는 통신이 주요 병목 현상인 초대규모 엑사스케일 시스템에서 실용적임을 보여준다.

ABSTRACT

We propose a coded computing strategy and examine communication costs of coded computing algorithms to make distributed Fast Fourier Transform (FFT) resilient to errors during the computation. We apply maximum distance separable (MDS) codes to a widely used "Transpose" algorithm for parallel FFT. In the uncoded distributed FFT algorithm, the most expensive step is a single "all-to-all" communication. We compare this with communication overhead of coding in our coded FFT algorithm. We show that by using a systematic MDS code, the communication overhead of coding is negligible in comparison with the communication costs inherent in an uncoded FFT implementation if the number of parity nodes is at most $o(\log K)$, where $K$ is the number of systematic nodes.

연구 동기 및 목표

• 프로세서 고장률 증가로 인해 심화되고 있는 엑사스케일 분산 FFT에서의 고장 내성 문제 해결.
• 높은 고장 확률을 가진 대규모 시스템에서 전통적인 체크포인트/리스타트 방법의 한계를 극복.
• 분산 FFT에 널리 사용되는 '트랜스포즈' 알고리즘과 원활하게 통합되는 인코딩 전략 설계.
• 특히 전역 전송(all-to-all) 통신 단계에서 발생하는 인코딩으로 인한 통신 오버헤드 분석 및 최소화.
• 인코딩 오버헤드가 비인코딩 FFT의 고유한 통신 비용에 비해 무시할 만큼 작아지는 조건 설정.

제안 방법

• K개의 시스템 프로세서와 P−K개의 패리티 프로세서에 입력 데이터를 체계적 최대거리분리(MDS) 코드로 분산.
• α(메시지 당 오버헤드)와 β(심볼 당 대역폭)를 매개변수로 하는 선형 모델을 사용해 통신 비용 모델링.
• 새로운 두 가지 통신 프리미티브 도입 및 분석: r개의 수신자에게 데이터를 전달하는 '다중 브로드캐스트' (p,r,n) 및 패리티 기호를 인코딩하는 '다중 리듀스' (p,r,n).
• 모든 수집(all-gather) 및 리듀스 연산을 사용한 다중 브로드캐스트의 이중 단계 알고리즘 설계로 이론적 하한선의 2배 이내의 통신 비용 달성.
• 다중 브로드캐스트 알고리즘을 역방향으로 적용해 패리티 기호를 인코딩하기 위한 다중 리듀스를 구현하며 동일한 통신 비용 확보.
• 인코딩의 통신 비용을 비인코딩 FFT의 전역 전송 통신 비용과 비교해 오버헤드 평가.

실험 결과

연구 질문

• RQ1 인코딩을 분산 FFT의 '트랜스포즈' 알고리즘에 적용하여 고장 내성을 향상시키되, 금지할 만큼의 통신 오버헤드를 유발하지 않을 수 있는가?
• RQ2 인코딩 체계에서 사용된 새로운 프리미티브인 다중 브로드캐스트 및 다중 리듀스의 통신 비용은 얼마인가?
• RQ3 인코딩의 통신 오버헤드가 비인코딩 FFT의 고유한 통신 비용에 비해 무시할 만큼 작아지는 조건은 무엇인가?
• RQ4 패리티 노드의 수가 인코딩된 FFT에서 고장 내성과 통신 효율성 간의 트레이드오프에 미치는 영향은 어떠한가?
• RQ5 제안된 인코딩 체계는 중앙 집중식 조정자 없이 완전히 분산된, 공유 메모리가 없는 환경에서도 구현 가능한가?

주요 결과

• 제안된 다중 리듀스 체계를 사용한 패리티 기호 인코딩의 통신 비용은 $ 2(\lceil\log_2 K\rceil\alpha + (P-K)\frac{N}{K}\beta) $ 이하로 제한되며, 이는 이론적 하한선의 2배 이내이다.
• 비인코딩 FFT에서의 전역 전송 통신 비용은 $ 2(\lceil\log_2 K\rceil\alpha + \frac{N}{2K}\lceil\log_2 K\rceil\beta) $이며, 주로 트랜스포즈 연산에 의해 지배된다.
• 패리티 노드 수 $ P-K $ 가 $ o(\log K) $ 이하일 경우, 인코딩의 통신 오버헤드는 비인코딩 FFT의 통신 비용에 비해 무시할 만큼 작아진다.
• 조건 $ P-K < \frac{1}{2}\log_2 K $ 는 인코딩 비용이 비인코딩 FFT의 전역 전송 통신 비용보다 작아지는 것을 보장한다.
• 제안된 다중 브로드캐스트 및 다중 리듀스 알고리즘은 이론적 하한선의 2배 이내로 근사 최적의 통신 효율성 달성.
• 분석 결과 MDS 인코딩은 고전적인 통신 비용 증가 없이 분산 FFT에 효과적으로 적용 가능하며, 초대규모 시스템에서 실용적인 고장 내성을 가능하게 한다.