[논문 리뷰] Dependency Injection for Programming by Optimization

Zoltan A. Kocsis, Jerry Swan|arXiv (Cornell University)|2017. 07. 13.

Evolutionary Algorithms and Applications참고 문헌 18인용 수 3

한 줄 요약

이 논문은 프로그래밍 기반 최적화(PbO)에서 기존의 웨이버 도구를 대체하는 의존성 주입 기반 프레임워크인 ContainAnt를 소개한다. 이는 효율적이고 온라인 최적화를 가능하게 한다. 구성 요소 연결을 문맥 자유 문법에 대한 문법 최적화로 모델링함으로써, 새로운 진화 휴리스틱 기법인 GrAnt와 GrEvo를 도입하여 최적화 속도와 해의 질에서 SMAC를 최대 두 계단 정도 뛰어넘는 성능을 발휘한다.

ABSTRACT

Programming by Optimization tools perform automatic software configuration according to the specification supplied by a software developer. Developers specify design spaces for program components, and the onerous task of determining which configuration best suits a given use case is determined using automated analysis tools and optimization heuristics. However, in current approaches to Programming by Optimization, design space specification and exploration relies on external configuration algorithms, executable wrappers and fragile, preprocessed programming language extensions. Here we show that the architectural pattern of Dependency Injection provides a superior alternative to the traditional Programming by Optimization pipeline. We demonstrate that configuration tools based on Dependency Injection fit naturally into the software development process, while requiring less overhead than current wrapper-based mechanisms. Furthermore, the structural correspondence between Dependency Injection and context-free grammars yields a new class of evolutionary metaheuristics for automated algorithm configuration. We found that the new heuristics significantly outperform existing configuration algorithms on many problems of interest (in one case by two orders of magnitude). We anticipate that these developments will make Programming by Optimization immediately applicable to a large number of enterprise software projects.

연구 동기 및 목표

• 기존의 웨이버 기반 도구가 약한 언어 확장 기능과 외부 명령줄 설정에 의존하는 PbO의 한계를 해결하기 위해.
• 소스 코드 수정 없이도 의존성 주입 컨테이너를 사용하여 PbO를 기존 소프트웨어 프로젝트에 원활하게 통합하기 위해.
• 의존성 주입과 문맥 자유 문법 사이의 구조적 유사성을 활용하여 자동 알고리즘 최적화를 위한 새로운 진화 메타휴리스틱 클래스를 도출하기 위해.
• 실세계 최적화 문제에서 기존 도구인 SMAC와의 성능을 평가하기 위해.
• 제안된 접근 방식이 현재의 PbO 파이프라인보다 더 빠르고 신뢰도가 높으며 확장성이 뛰어나다는 것을 입증하기 위해.

제안 방법

• 각 생성 규칙가 종속성 그래프 내 구성 선택에 해당하는 문맥 자유 문법으로 소프트웨어 구성 요소 설계 공간을 표현한다.
• 소스 코드를 수정하지 않고도 의존성 주입 컨테이너를 사용하여 구성 요소 설정을 인스턴스화함으로써 런타임 및 온라인 최적화를 가능하게 한다.
• 유효한 문법 유도를 진화시키는 방식으로 설계 공간을 탐색하기 위해 새로운 문법 기반 유전 알고리즘(GrAnt)과 개미 군집 최적화(GrEvo)를 적용한다.
• 최적화 문제를 특정 문맥 자유 문법 내 유도 탐색으로 매핑하며, 적합도는 주어진 벤치마크에서의 성능에 의해 결정된다.
• 추상 구문 트리에서 구체적 구성 요소 인스턴스로의 구성 인식 매핑을 사용하여 타입 안정성과 모듈성을 유지한다.
• 외부 웨이버나 명령줄 래퍼가 필요 없도록 히وري스틱 기반의 탐색 전략을 도입하여 실시간 구성 설정을 가능하게 한다.

실험 결과

연구 질문

• RQ1 의존성 주입은 프로그래밍 기반 최적화에서 문법적 웨이버의 천연이고 경량 대체 수 Mitt이 될 수 있는가?
• RQ2 의존성 주입과 문맥 자유 문법 사이의 구조적 동형성이 알고리즘 최적화를 위한 효과적인 메타휴리스틱 탐색을 가능하게 하는가?
• RQ3 문법 기반 진화 휴리스틱 기법(GrAnt 및 GrEvo)은 실세계 최적화 문제에서 기존 도구인 SMAC와 비교해 성능 및 내구성 면에서 어떻게 성과를 내는가?
• RQ4 제안된 접근 방식은 실무 기업 소프트웨어 환경에서 SMAC 대비 상당한 속도 향상과 해의 질 향상을 달성할 수 있는가?
• RQ5 기존의 문법 기반 진화 접근 방식(예: 조기 수렴)은 소프트웨어 구성에 적용했을 때 어떤 한계를 지니는가?

주요 결과

• GrAnt 휴리스틱은 다섯 개의 벤치마크 문제 중 네 개에서 모든 다른 방법보다 뛰어난 성능을 보였으며, Branin 함수와 두 개의 부분합 인스턴스에서 전역 최적 해를 달성했다.
• Branin 함수에서 GrAnt는 평균 적합도 0.87을 기록했고, SMAC의 1.47보다 높은 성능을 보였으며, p-값 < 0.001로 통계적으로 유의미한 향상을 보였다.
• 부분합 P02 문제에서 GrAnt는 평균 적합도 0.65를 기록했고, SMAC의 1.47과 랜덤 검색의 0.03보다 뛰어난 성능을 보였다. p-값 < 0.001.
• DHeap 문제에서 GrAnt는 평균 적합도 46,801를 기록했고, 분산이 0이었으며, SMAC의 46,752와 랜덤 검색의 46,594를 모두 초월했다.
• 사용자가 4시간이 걸리는 SMAC 작업의 최적화 시간이 GrAnt를 사용함으로써 46초로 단축되어 최대 50배의 속도 향상을 달성했으며, 해의 질 또한 향상되었다.
• GrEvo는 다양성의 조기 상실로 인해 성능이 열악했으며, 최소 5세대 만에 수렴함으로써 표준 문법 기반 진화가 실시간 소프트웨어 구성에 한계를 지닌다는 것을 시사했다.