[논문 리뷰] Lookback for Learning to Branch

Prateek Gupta, Elias B. Khalil외 5명|arXiv (Cornell University)|2022. 06. 30.

Advanced Graph Neural Networks인용 수 11

한 줄 요약

이 논문은 분기한정 트리에서 강력한 브랜칭이 종종 부모의 두 번째로 좋은 변수를 선택하는 '보기' 현상을 규명한다. GNN 기반 분기 정책을 향상시키기 위해, 저자는 타겟 스무딩과 부모를 타겟으로 하는(PAT) 정규화 기법을 제안하며, 표준 벤치마크에서 B&B 트리 크기를 최대 22% 감소시키고, 해법 시간을 최대 15% 감소시킨다.

ABSTRACT

The expressive and computationally inexpensive bipartite Graph Neural Networks (GNN) have been shown to be an important component of deep learning based Mixed-Integer Linear Program (MILP) solvers. Recent works have demonstrated the effectiveness of such GNNs in replacing the branching (variable selection) heuristic in branch-and-bound (B&B) solvers. These GNNs are trained, offline and on a collection of MILPs, to imitate a very good but computationally expensive branching heuristic, strong branching. Given that B&B results in a tree of sub-MILPs, we ask (a) whether there are strong dependencies exhibited by the target heuristic among the neighboring nodes of the B&B tree, and (b) if so, whether we can incorporate them in our training procedure. Specifically, we find that with the strong branching heuristic, a child node's best choice was often the parent's second-best choice. We call this the "lookback" phenomenon. Surprisingly, the typical branching GNN of Gasse et al. (2019) often misses this simple "answer". To imitate the target behavior more closely by incorporating the lookback phenomenon in GNNs, we propose two methods: (a) target smoothing for the standard cross-entropy loss function, and (b) adding a Parent-as-Target (PAT) Lookback regularizer term. Finally, we propose a model selection framework to incorporate harder-to-formulate objectives such as solving time in the final models. Through extensive experimentation on standard benchmark instances, we show that our proposal results in up to 22% decrease in the size of the B&B tree and up to 15% improvement in the solving times.

연구 동기 및 목표

• 분기한정 트리의 부모-자식 노드 간 강력한 브랜칭 결정에서 숨겨진 의존성 구조를 탐구한다.
• 학습된 GNN 정책과 종종 부모의 두 번째로 좋은 변수를 선택하는 오라클 강력 브랜칭 히우리스틱 간 격차를 해결한다.
• 강력한 브랜칭 행동에서 관찰된 구조적 패턴을 통합함으로써 GNN 기반 분기 정책을 향상시킨다.
• 정확도뿐 아니라 해법 시간과 같은 실용적 목표를 최적화하는 모델 선택 프레임워크를 개발한다.
• 보기 행동을 모방함으로써 MILP 솔버에서 더 효율적이고 효과적인 분기 정책을 도출할 수 있음을 보여준다.

제안 방법

• 보기 현상 규명: 자식 노드의 최적 선택이 종종 부모의 두 번째로 좋은 선택과 일치함을 확인한다.
• 타겟 스무딩 제안: 보기 가능성에 따라 타겟 분포를 부드럽게 하여 교차 엔트로피 손실을 정규화한다.
• 부모를 타겟으로 하는(PAT) 정규화 기법 도입: 자식 노드에 대해 최적일 경우 부모의 두 번째로 좋은 변수를 선택하지 못하면 GNN에 명시적인 페널티를 가한다.
• 비어 있는 계수를 가진 변수와 제약 조건을 노드로 하는 이진 그래프 표현 방식을 사용해 GNN을 훈련한다.
• 기본 벤치마크 MILP 인스턴스에서 강력한 브랜칭을 통해 오프라인 데이터 수집을 수행해 훈련 타겟을 생성한다.
• 검증 정확도뿐 아니라 해법 시간과 트리 크기를 기반으로 하이퍼파rameter를 평가하는 모델 선택 프레임워크 설계.

실험 결과

연구 질문

• RQ1 B&B 트리에서 부모 노드와 자식 노드 간 강력한 브랜칭 결정이 얼마나 의존적인가?
• RQ2 부모의 두 번째로 좋은 선택을 자식의 최적 선택에 대한 대체 타겟으로 모델링하면 GNN 기반 분기 정책이 향상되는가?
• RQ3 손실 수정 또는 정규화를 통해 보기 현상을 통합하면 B&B 트리 크기와 해법 시간에 측정 가능한 향상이 이루어지는가?
• RQ4 해법 시간을 최적화한 본 논문의 모델 선택 프레임워크는 표준 정확도 기반 선택과 비교해 어떻게 성능을 냈는가?
• RQ5 보기 패턴은 다양한 MILP 유형 간 일반화 가능한가? 일관되게 성능 향상을 이끌 수 있는가?

주요 결과

• 보기 현상—자식의 최적 선택이 부모의 두 번째로 좋은 선택과 일치하는 현상—은 기준 벤치마크 유형 평균 50% 이상에서 발생한다.
• 교차 엔트로피 손실로 훈련된 표준 GNN은 이 패턴을 학습하지 못하며, 종종 최적의 보기 선택을 놓친다.
• 제안된 부모를 타겟으로 하는(PAT) 정규화 기법은 GNN 성능을 크게 향상시키며, 기준 GNN 대비 B&B 트리 크기를 최대 22% 감소시킨다.
• PAT 정규화 모델을 사용하면 해법 시간이 최대 15% 감소하며, 특히 해를 구하기 어려운 인스턴스에서 두드러진다.
• 해법 시간을 기반으로 한 모델 선택 프레임워크는 더 나은 일반화 성능과 더 빠른 수렴 속도를 보인다.
• 최적 해의 갭을 최적화하지 않더라도 PAT 모델은 해를 구하지 못한 인스턴스에서 더 나은 갭 성능를 달성하여 강건성을 입증한다.