[논문 리뷰] When data mining meets optimization: A case study on the quadratic assignment problem

Yangming Zhou, Jin‐Kao Hao외 1명|arXiv (Cornell University)|2017. 08. 17.

Data Mining Algorithms and Applications참고 문헌 39인용 수 3

한 줄 요약

이 논문은 이차 할당 문제(QAP)를 해결하기 위해 데이터 마이닝과 메타휴리스틱을 융합한 하이브리드 최적화 방법인 빈도 패턴 기반 탐색(Frequent Pattern Based Search, FPBS)을 제안한다. 최적의 해들에서 빈도 패턴을 추출하여 새로운 시작 해를 구성함으로써, FPBS는 2시간 이내에 21개의 기준 테스트 인스턴스 중 19개에서 최고의 알려진 해를 도출하여 최신 기술 수준의 성능을 달성한다.

ABSTRACT

This paper presents a hybrid approach called frequent pattern based search that combines data mining and optimization. The proposed method uses a data mining procedure to mine frequent patterns from a set of high-quality solutions collected from previous search, and the mined frequent patterns are then employed to build starting solutions that are improved by an optimization procedure. After presenting the general approach and its composing ingredients, we illustrate its application to solve the well-known and challenging quadratic assignment problem. Computational results on the 21 hardest benchmark instances show that the proposed approach competes favorably with state-of-the-art algorithms both in terms of solution quality and computing time.

연구 동기 및 목표

• NP-난해 조합 최적화 문제에 대한 메타휴리스틱 탐색에서 탐색과 이용의 균형을 맞추는 데 도전한다.
• 고품질 해들에서 유도된 빈도 패턴이 효과적인 시작 해를 구성하는 데 도움이 될 수 있는지 조사한다.
• 이러한 FPBS 프레임워크의 성능을 매우 어려운 QAP 기준 테스트 인스턴스에 대해 평가한다.
• 빈도 패턴 수와 마이닝 임계값과 같은 핵심 매개변수들이 알고리즘 성능에 미치는 영향을 분석한다.

제안 방법

• FPBS 프레임워크는 고유한 해 집합에서 빈도 패턴을 추출하는 데이터 마이닝 단계와, 이러한 패턴을 사용하여 새로운 시작 해를 구성하는 최적화 단계를 번갈아 수행한다.
• 빈도 패턴은 최대 빈도 항목집합 알고리즘을 사용하여 추출되며, 패턴은 고품질 해들에서 반복적으로 나타나는 구성요소를 나타낸다.
• 새로운 해는 가장 빈도 높은 패턴에 속한 항목의 위치를 고정한 후, 나머지 요소들을 최적화하기 위해 국소 탐색 절차를 적용함으로써 구성된다.
• 알고리즘은 고유한 해 집합을 유지하며, 새로운 고품질 해를 발견할 때마다 이를 주기적으로 갱신한다.
• 동적 매개변수 업데이트 전략을 통해 패턴 마이닝과 해 개선의 빈도를 제어하며, 매개변수들은 경험적 분석을 통해 조정된다.
• QAP에 적용하기 위해 순열을 항목집합으로 모델링하며, 할당의 각 위치는 거래로 간주된다.

실험 결과

연구 질문

• RQ1 고유한 해들에서 추출된 빈도 패턴이 조합 최적화에서 고품질의 시작 해를 구성하는 데 도움이 될 수 있는가?
• RQ2 추출된 빈도 패턴의 수가 구성된 해들의 다양성과 품질에 어떤 영향을 미치는가?
• RQ3 탐색 과정에 데이터 마이닝을 통합함으로써 표준 메타휴리스틱에 비해 해의 품질과 수렴 속도가 향상되는가?
• RQ4 최소 지지도수 및 패턴 수와 같은 매개변수 설정이 알고리즘 성능에 미치는 영향은 무엇인가?

주요 결과

• FPBS는 2시간 제한 시간 내에 QAPLIB 기준 테스트 인스턴스 21개 중 19개에서 최고의 알려진 목적값을 달성했으며, tai80a와 tai100a에서는 약간의 편차가 있었다.
• FPBS가 최고의 알려진 해로부터 평균 편차율(PD)은 0.043%로, 기준 FPBS-QAP 0 버전이 달성한 0.056%보다 유의미하게 뛰어났다.
• 해의 품질과 계산 효율성 측면에서 최신 기술 수준의 알고리즘을 초월했으며, 모든 인스턴스 평균 실행 시간은 8.6분이었다.
• 최적의 빈도 패턴 수는 11개로, 여러 테스트 인스턴스에서 성능을 최대화했으며, 이보다 더 적거나 더 많은 값에서는 성능이 저하되었다.
• FPBS-QAP에서 FPBS-QAP 0에 비해 돌연변이 유사 절차를 포함시킴으로써 해의 품질이 크게 향상되어, 패턴 기반의 다양화 전략의 가치가 확인되었다.
• 특히 β=0.75와 max_no_update=15 설정에서의 매개변수 조정이 탐색과 이용의 균형을 맞추는 데 핵심적이었으며, 성능은 이 설정에 매우 민감하게 반응했다.