[논문 리뷰] A Topological Approach to Meta-heuristics: Analytical Results on the BFS vs. DFS Algorithm Selection Problem

Tom Everitt, Marcus Hütter|arXiv (Cornell University)|2015. 09. 09.

Constraint Satisfaction and Optimization참고 문헌 38인용 수 3

한 줄 요약

이 논문은 트리 및 그래프 탐색 문제에서 BFS와 DFS의 평균 실행 시간을 분석적으로 추정하기 위한 위상수학적이고 확률론적 프레임워크를 제시한다. 목표의 분포를 레벨별로 모델링하고 분기 계수 및 경로 중복성을 통합함으로써 평균 탐색 시간에 대한 폐쇄형 근사식을 유도하며, 강력한 경험적 검증을 통해 알고리즘 및 표현 선택에 대한 정보 기반 결정을 가능하게 한다.

ABSTRACT

Search is a central problem in artificial intelligence, and breadth-first search (BFS) and depth-first search (DFS) are the two most fundamental ways to search. In this paper we derive estimates for average BFS and DFS runtime. The average runtime estimates can be used to allocate resources or judge the hardness of a problem. They can also be used for selecting the best graph representation, and for selecting the faster algorithm out of BFS and DFS. They may also form the basis for an analysis of more advanced search methods. The paper treats both tree search and graph search. For tree search, we employ a probabilistic model of goal distribution; for graph search, the analysis depends on an additional statistic of path redundancy and average branching factor. As an application, we use the results to predict BFS and DFS runtime on two concrete grammar problems and on the N-puzzle. Experimental verification shows that our analytical approximations come close to empirical reality.

연구 동기 및 목표

• 탐색 문제에서 BFS 및 DFS의 예상 실행 시간을 분석적으로 추정하는 것.
• 실행 시간 예측을 통해 데이터 기반 알고리즘 및 그래프 표현 선택을 가능하게 하는 것.
• 목표 분포의 확률 모델링을 통해 최악의 경우 분석을 평균 경우 성능으로 확장하는 것.
• 탐색 알고리즘 선택을 위한 메타휴리스틱의 이론적 기반을 제공하는 것.
• 문법 문제와 N-퍼즐에서의 경험적 결과와 비교하여 분석적 근사식의 검증을 수행하는 것.

제안 방법

• 트리 레벨에 대한 확률 벡터를 사용해 목표 분포를 모델링함으로써 BFS 및 DFS의 예상 실행 시간 추정을 가능하게 한다.
• 그래프 탐색에서 경로 중복성과 구조적 특성을 기록하기 위해 길이 대 깊이 카운터 L을 도입한다.
• 확률적 목표 레벨을 기반으로 트리 탐색에서 평균 BFS 및 DFS 실행 시간에 대한 폐쇄형 근사식을 도출한다.
• 경로 중복성을 반영하기 위해 분기 계수와 L 카운터를 통합함으로써 결과를 그래프 탐색으로 일반화한다.
• 분기 계수 및 목표 확률과 같은 그래프 파라미터를 경험적으로 추정하는 기법을 사용한다.
• g-레벨 분기 계수와 일반화된 백트래킹을 고려함으로써 프레임워크를 휴리스틱 탐색으로 확장한다.

실험 결과

연구 질문

• RQ1 확률적 목표 분포를 가진 트리 탐색에서 BFS 및 DFS의 예상 실행 시간을 어떻게 분석적으로 추정할 수 있는가?
• RQ2 깊이와 분기 계수 외에 어떤 구조적 그래프 특성이 BFS 및 DFS의 평균 실행 시간에 영향을 미치는가?
• RQ3 경로 중복성과 목표 분포는 BFS 및 DFS의 상대적 성능에 어떤 영향을 미치는가?
• RQ4 분석적 실행 시간 추정치는 N-퍼즐과 문법 문제와 같은 실제 문제에서 경험적 성능을 예측할 수 있는가?
• RQ5 이 프레임워크는 휴리스틱 DFS 및 A*와 같은 휴리스틱 탐색 방법에 어떻게 적응시킬 수 있는가?

주요 결과

• 논문은 목표 확률 벡터와 분기 계수를 기반으로 트리 탐색에서 BFS 및 DFS의 예상 실행 시간에 대한 폐쇄형 분석 근사식을 도출한다.
• 그래프 탐색에서는 경로 중복성을 모델링하기 위해 길이 대 깊이 카운터 L을 도입하여 실행 시간 추정과 함께 경계를 제공한다.
• 문법 문제와 N-퍼즐에서의 경험적 검증 결과, 분석적 추정치와 실제 실행 시간 간의 높은 일치도를 보였다.
• 예상 실행 시간 추정치는 항상 2^{D+1}이 되는 최악의 경우 경계보다 훨씬 더 정보가 풍부하다.
• BFS와 DFS 간의 성능 차이를 예측함으로써 실용적인 알고리즘 선택과 그래프 표현 선택을 가능하게 한다.
• 프레임워크는 휴리스틱 탐색으로의 분석 확장을 위한 이론적 기반을 제공하며, 휴리스틱 DFS에서의 일반화된 백트래킹을 포함한다.