[논문 리뷰] A Problem-Specific Fault-Tolerance Mechanism for Asynchronous, Distributed Systems

Adriana Iamnitchi, Ian Foster|ArXiv.org|2000. 03. 12.

Distributed systems and fault tolerance참고 문헌 23인용 수 8

한 줄 요약

이 논문은 신뢰할 수 없고 기회적인 네트워크에서 작동하는 이종적이고 비동기식 분산 브랜치 앤 바운드 알고리즘을 위한 문제 특화 장애 내성 메커니즘을 제안한다. 문제 공간의 트리 구조를 활용하고, 멤버십 및 장애 복구에 유행성 통신을 사용함으로써, 모든 자원 중 하나를 제외한 나머지 자원이 장애가 발생하더라도 정확성과 종료 보장이 이루어지며, 완전한 분산화와 저비용 장애 탐지로 확장성을 달성한다.

ABSTRACT

The idle computers on a local area, campus area, or even wide area network represent a significant computational resource---one that is, however, also unreliable, heterogeneous, and opportunistic. This type of resource has been used effectively for embarrassingly parallel problems but not for more tightly coupled problems. We describe an algorithm that allows branch-and-bound problems to be solved in such environments. In designing this algorithm, we faced two challenges: (1) scalability, to effectively exploit the variably sized pools of resources available, and (2) fault tolerance, to ensure the reliability of services. We achieve scalability through a fully decentralized algorithm, by using a membership protocol for managing dynamically available resources. However, this fully decentralized design makes achieving reliability even more challenging. We guarantee fault tolerance in the sense that the loss of up to all but one resource will not affect the quality of the solution. For propagating information efficiently, we use epidemic communication for both the membership protocol and the fault-tolerance mechanism. We have developed a simulation framework that allows us to evaluate design alternatives. Results obtained in this framework suggest that our techniques can execute scalably and reliably.

연구 동기 및 목표

• 인터넷과 같은 신뢰할 수 없고 이종적이며 기회적인 분산 환경에서 밀접하게 연결된 브랜치 앤 바운드 문제의 신뢰성 있는 실행을 가능하게 하기 위해.
• 자원 가용성이 동적으로 변화하는 완전히 분산된 시스템에서 확장성과 장애 내성의 이중적 과제를 해결하기 위해.
• 모든 프로세서 중 하나를 제외한 나머지 프로세서가 장애가 발생하더라도 해답의 정확성을 보장하는 장애 내성 메커니즘을 설계하기 위해, 문제 공간의 본질적 구조를 활용하기 위해.
• 다양한 네트워크 조건과 장애 상황에서 알고리즘 성능을 평가하기 위한 시뮬레이션 프레임워크를 개발하기 위해.

제안 방법

• 중앙 집중식 조율 없이도 동적으로 가용한 신뢰할 수 없는 자원에 걸쳐 확장 가능한 완전히 분산된 브랜치 앤 바운드 알고리즘을 설계하였다.
• 그룹 멤버십 관리와 장애 내성 전파에 유행성 통신을 사용하여 효율적이고 견고한 정보 전파를 가능하게 하였다.
• 정기적인 작업 보고를 통해 장애를 탐지하고, 손실된 부분 문제를 생존하는 노드에 재할당하여 복구하는 장애 내성 메커니즘을 구현하였다.
• 모든 확장된 부분 문제의 완료를 모니터링하여 종료 탐지 기능을 달성함으로써 정확하고 최종적인 출력을 보장하였다.
• MPE 및 clog 로그 파일 기반의 시뮬레이션 프레임워크를 통해 런타임 프로파일링과 행동 시각화를 Jumpshot을 사용하여 수행하였다.
• 검색 공간의 트리 구조를 활용하는 문제 특화 복구 전략을 사용하여 중복 계산을 방지하고 정확성을 보장하였다.

실험 결과

연구 질문

• RQ1 신뢰할 수 없고 자원 가용성이 동적으로 변화하는 이종적이고 비동기식 분산 환경에서 완전히 분산된 시스템에서 장애 내성을 어떻게 달성할 수 있는가?
• RQ2 일반적인 미들웨어 기반 장애 내성보다 문제 특화 장애 내성 메커니즘이 효율성과 단순성 측면에서 얼마나 뛰어나게 성능을 발휘할 수 있는가?
• RQ3 유행성 통신은 대규모 기회적 컴퓨팅 환경에서 확장성 있고 신뢰할 수 있는 멤버십 및 장애 탐지 기능을 어떻게 지원하는가?
• RQ4 네트워크 특성과 장애 패턴은 제안된 장애 내성 메커니즘의 성능과 오버헤드에 어떤 영향을 미치는가?
• RQ5 높은 장애 비율 조건에서도 정확성을 보장하면서 양호한 로드 밸런싱과 낮은 통신 비용을 유지할 수 있는가?

주요 결과

• 모든 자원 중 하나를 제외한 나머지 자원이 장애가 발생하더라도 시스템이 여전히 정확한 해답을 생성할 수 있도록 보장함으로써 알고리즘이 장애 내성을 달성하였다. 이는 해답 품질을 유지하는 데 기여하였다.
• 통신 비용은 합리적인 수준을 유지하였으며, 100개의 프로세서 기준으로 43MB의 스토리지 공간만 필요로 하여 낮은 스토리지 오버헤드를 보였다.
• 최적화가 이루어지지 않은 상태에서도 시뮬레이션 결과 성능이 양호하였으며, 초기 테스트에서 중복 작업의 심각한 증가가 관찰되지 않았다.
• 프로세서 수가 증가할수록 정지 기간이 길어지므로 각 프로세서가 보낸 작업 보고 수가 증가하지만, 이는 성능에 심각한 영향을 주지 않았다.
• 문제의 분할 정도가 더 거칠어질수록 로드 밸런싱이 향상되었지만, 고정 간격의 작업 보고로 인해 불필요한 통신 비용이 증가하였다.
• 시뮬레이션 결과에 따르면 런타임 메트릭(예: 부분 문제당 실행 시간)을 기반으로 메시지 주기를 적응적으로 조절하는 것이 추가로 확장성을 향상시킬 수 있다.