[논문 리뷰] Evolutionary Algorithms for the Chance-Constrained Knapsack Problem

Yue Xie, Oscar Harper외 3명|arXiv (Cornell University)|2019. 02. 13.

Optimization and Packing Problems참고 문헌 45인용 수 4

한 줄 요약

이 논문은 항목의 무게가 확률적으로 변동하는 경우, 총 무게가 용량을 초과할 확률이 ≤ α일 때를 조건으로 하는 확률적 제약이 있는 배낭 문제(CCKP)를 위한 다목적 유전적 알고리즘(GSEMO)을 제안한다. 이는 체비세프 부등식과 체르노프 경계를 사용하여 대체 제약 조건을 구성하며, 모든 크기의 인스턴스에서 단일 목표 유전적 알고리즘과 결정론적 방법보다 우수한 해 품질과 실행 시간을 보이며, 특히 대규모 문제에서 두각을 나타낸다.

ABSTRACT

Evolutionary algorithms have been applied to a wide range of stochastic problems. Motivated by real-world problems where constraint violations have disruptive effects, this paper considers the chance-constrained knapsack problem (CCKP) which is a variance of the binary knapsack problem. The problem aims to maximize the profit of selected items under a constraint that the knapsack capacity bound is violated with a small probability. To tackle the chance constraint, we introduce how to construct surrogate functions by applying well-known deviation inequalities such as Chebyshev's inequality and Chernoff bounds. Furthermore, we investigate the performance of several deterministic approaches and introduce a single- and multi-objective evolutionary algorithm to solve the CCKP. In the experiment section, we evaluate and compare the deterministic approaches and evolutionary algorithms on a wide range of instances. Our experimental results show that a multi-objective evolutionary algorithm outperforms its single-objective formulation for all instances and performance better than deterministic approaches according to the computation time. Furthermore, our investigation points out in which circumstances to favour Chebyshev's inequality or the Chernoff bound when dealing with the CCKP.

연구 동기 및 목표

• 스토케스틱한 무게를 가진 배낭 문제를 엄격한 위험 확률 기준(용량 초과 확률 ≤ α) 하에서 최적화하는 데 도전하는 것.
• 체비세프 및 체르노프의 확률 尾부 부등식을 사용하여 대체 제약 조건으로서의 다목적 유전적 알고리즘 개발을 통해 확률적 제약 조건을 효율적으로 처리하는 것.
• 다양한 CCKP 인스턴스에서 결정론적 방법(ILP, 동적 프로그래밍, 휴리스틱)과 단일, 다목적 유전적 알고리즘 간의 성능 비교를 수행하는 것.
• 체비세프 부등식 또는 체르노프 경계가 CCKP 맥락에서 어떤 조건에서 더 우수한 성능을 발휘하는지 규명하는 것.

제안 방법

• 완전한 분포 계산 없이도 용량 위반 확률을 추정하기 위해 체비세프 부등식과 체르노프 경계를 사용하여 대체 적합도 함수를 구성한다.
• 이익과 제약 위반 위험 간의 트레이드오프를 탐색하기 위해 단일 목표 (1+1) EA와 다목적 GSEMO 알고리즘을 구현한다.
• 경량 尾부 분포(예: 포isson, 정규분포)에 대해서는 체르노프 경계를, 더 무거운 尾부 또는 정보가 적은 분포에 대해서는 체비세프를 적용한다.
• 100개, 300개, 500개 아이템 인스턴스에 대해 α 및 β 파라미터를 다양하게 설정한 30회 반복 실험을 통한 통계적 검정(p-값)을 수행한다.
• 윌코크슨 부호 순위 검정의 p-값을 기반으로 평균 수익과 통계적 유의성을 평가한다.
• 수익을 최대화하고 동시에 제약 위반의 추정 확률을 최소화하는 다목적 모델을 설계한다.

실험 결과

연구 질문

• RQ1 확률적 제약이 있는 배낭 문제에서 체르노프 경계가 체비세프 부등식보다 더 날카로운 경계를 제공하는 조건은 무엇인가?
• RQ2 다목적 유전적 알고리즘의 성능은 CCKP 인스턴스에서 단일 목표 형식과 결정론적 방법에 비해 어떻게 비교되는가?
• RQ3 확률 부등식 기반의 대체 제약 조건가 유전적 탐색을 효과적으로 이끌 수 있으며, 확률적 무게 분포 하에서도 타당성을 유지할 수 있는가?
• RQ4 체비세프 vs. 체르노프 부등식의 선택이 CCKP에 대한 유전적 알고리즘의 해 품질과 수렴 속도에 유의미한 영향을 미치는가?
• RQ5 100개, 300개, 500개 아이템의 다양한 인스턴스 크기와 α = 0.01, 0.05, 0.1 확률 임계치에서 계산 시간과 해 품질 간의 트레이드오프는 어떻게 나타나는가?

주요 결과

• GSEMO는 모든 인스턴스 유형에서 최고의 해 품질을 달성하였으며, 100개 아이템 인스턴스에서 α=0.01일 때 평균 수익 148834, α=0.01일 때 149543, α=0.1일 때 209630을 기록하여 (1+1) EA와 결정론적 방법을 모두 압도했다.
• 500개 아이템 인스턴스에서는 GSEMO가 α=0.01일 때 평균 수익 209047, α=0.1일 때 209630을 기록하였으며, 휴리스틱 방법은 2시간 이내에 완료되지 못해 뚜렷한 열세를 보였다.
• 휴리스틱 방법은 소규모 인스턴스(100개 아이템)에서는 다른 방법보다 뛰어난 성능을 보였지만, 500개 아이템 인스턴스에서는 확장성이 떨어져 2시간 이내에 완료되지 못했다.
• GSEMO는 소규모 인스턴스에서 ILP 및 휴리스틱과 유사한 해 품질을 달성했지만, 실행 시간은 수분 수준에서 수시간에 이르는 다른 방법들보다 훨씬 빠르게 처리했다.
• 용량 위반 확률이 낮을 경우(α ≤ 0.01), 특히 경량 尾부 분포에서 체르노프 경계의 적용이 체비세프 부등식보다 더 효과적이었다.
• 통계적 검정 결과, GSEMO는 모든 인스턴스 유형에서 (1+1) EA를 유의미하게 뛰어넘었으며, 모든 비교에서 p-값 < 0.05를 기록했다.