[논문 리뷰] Cloud-based Evolutionary Algorithms: An algorithmic study

J. J. Merelo, Maribel García-Arenas외 4명|arXiv (Cornell University)|2011. 05. 31.

Distributed and Parallel Computing Systems참고 문헌 13인용 수 5

한 줄 요약

이 논문은 Dropbox를 파일 동기화 서비스로 사용하여 이질적인 기계 간에 분산되고 비동기적으로 계산할 수 있도록 하는 클라우드 기반 진화 알고리즘 프레임워크를 제안한다. 복잡한 문제인 MMDP에 대해 이 접근 방식은 병렬 평가를 활용하여 해를 구하는 데에 시간을 크게 단축시키지만, 성능 향상은 이주 간격 조정과 Dropbox의 고유한 지연 시간 관리에 크게 의존한다.

ABSTRACT

After a proof of concept using Dropbox(tm), a free storage and synchronization service, showed that an evolutionary algorithm using several dissimilar computers connected via WiFi or Ethernet had a good scaling behavior in terms of evaluations per second, it remains to be proved whether that effect also translates to the algorithmic performance of the algorithm. In this paper we will check several different, and difficult, problems, and see what effects the automatic load-balancing and asynchrony have on the speed of resolution of problems.

연구 동기 및 목표

• Dropbox와 같은 무료로 널리 이용 가능한 클라우드 스토리지 서비스를 분산 진화 계산의 통신 수단으로 사용할 수 있는지 탐색한다.
• 클라우드 스토리지 서비스에 내재된 비동기성과 로드 밸런싱이 진화 계산의 알고리즘 성능에 도움이 되는지 조사한다.
• 노드 수, 이주 빈도, 문제 난이도가 해를 구하는 데 소요되는 시간과 성공률에 미치는 영향을 규명한다.
• 파일 동기화로 인한 지연이 있음에도 불구하고, 이 방식이 복잡하고 평가가 오래 걸리는 문제에 대해 실용적인지 평가한다.

제안 방법

• 분산 진화 알고리즘 노드 간에 인구 데이터를 교환하기 위해 Dropbox를 공유되고 비동기적인 파일 동기화 서비스로 활용한다.
• 각 노드가 독립적으로 실행되고 정해진 간격마다 Dropbox를 통해 인구를 동기화하는 아일랜드 기반 진화 알고리즘 아키텍처를 구현한다.
• Race 조건을 최소화하기 위해 각 노드당 1초의 히우리스틱 지연을 도입하여 Dropbox 데몬이 파일 전송을 완료할 수 있도록 한다.
• 해를 찾는 데 소요되는 시간과 평가 횟수를 추적하기 위해 두 가지 벤치마크 문제(P-Peaks(간단) 및 MMDP(복잡))에서 성능을 측정한다.
• 성능와 수렴 속도에 미치는 영향을 분석하기 위해 이주 간격(각 40, 60, 100세대)을 조정한다.
• 다양한 구성에서 비교를 위한 기준으로 표준(병렬화되지 않은) 진화 알고리즘을 사용한다.

실험 결과

연구 질문

• RQ1 Dropbox 기반 파일 동기화가 최소한의 설정과 맞춤형 인프라 없이도 분산 진화 계산을 효과적으로 지원할 수 있는가?
• RQ2 Dropbox의 비동기성과 고유한 지연 시간이 복잡한 문제에 대한 진화 알고리즘의 성능에 해를 끼치는가, 아니면 도움이 되는가?
• RQ3 노드 수와 이주 빈도는 클라우드 기반 분산 진화 계산 환경에서 해를 찾는 데 소요되는 시간과 성공률에 어떤 영향을 미치는가?
• RQ4 문제의 복잡도가 어느 정도 이상이 되면 병렬 평가의 이점이 클라우드 동기화로 인한 지연을 상쇄할 수 있는가?
• RQ5 성능이 다른 자율 기여 노드들로 구성된 이종 환경에서도 성능 저하 없이 이 시스템을 효과적으로 활용할 수 있는가?

주요 결과

• 간단한 P-Peaks 문제에 대해서는 높은 동기화 지연으로 인해 Dropbox를 통해 더 많은 노드를 추가해도 해를 찾는 데 소요되는 시간이 줄어들지 않았으며, 단일 노드 설정이 가장 우수한 성능을 보였다.
• 복잡한 MMDP 문제에 대해서는 100세대의 이주 간격을 가진 네 개의 노드가 가장 빠른 해를 찾는 데 성공했으며, 단일 노드 실행 대비 30-40% 향상된 성능을 보였다.
• MMDP 문제에 대해 최적의 이주 간격은 100세대로, 이보다 짧은 간격은 동기화 오버헤드를 증가시키고, 더 긴 간격은 병렬성 감소를 초래했다.
• 해를 찾는 데 소요되는 시간은 이주 빈도에 매우 민감했으며, 최적화되지 않은 간격은 노드 수가 늘어나도 성능 저하를 초래했다.
• 네 개의 노드와 최적의 이주 간격을 사용할 경우 MMDP 실험 전반에서 100%의 성공률을 기록하여 적절한 구성에서 안정적인 수렴이 가능함을 보여주었다.
• 각 노드당 1초의 지연 시간이 짧은 실험에서 총 실행 시간의 최대 25%를 차지하여 주요 성능 저하 요인임을 확인했다.