[논문 리뷰] Generalization of Neural Combinatorial Solvers Through the Lens of Adversarial Robustness

Simon Geisler, Johanna Sommer외 3명|arXiv (Cornell University)|2021. 10. 21.

Computational Drug Discovery Methods참고 문헌 10인용 수 4

한 줄 요약

이 논문은 SAT 및 TSP와 같은 NP-완전 문제를 위한 신경 조합 최적화 솔버의 일반화 성능을 평가하고 향상시키기 위해 새로운 적대적 내성 프레임워크를 제안한다. 외부 솔버가 필요 없이 레이블 정확성을 유지하는 신뢰성 있고 효율적인 편향 모델을 설계함으로써, 저자들은 최첨단 신경 솔버가 작은 인스턴스 편향에 매우 취약하다는 것을 입증하고, 적대적 훈련이 내성과 일반화 성능을 크게 향상시킨다는 것을 보여준다.

ABSTRACT

End-to-end (geometric) deep learning has seen first successes in approximating the solution of combinatorial optimization problems. However, generating data in the realm of NP-hard/-complete tasks brings practical and theoretical challenges, resulting in evaluation protocols that are too optimistic. Specifically, most datasets only capture a simpler subproblem and likely suffer from spurious features. We investigate these effects by studying adversarial robustness -a local generalization property- to reveal hard, model-specific instances and spurious features. For this purpose, we derive perturbation models for SAT and TSP. Unlike in other applications, where perturbation models are designed around subjective notions of imperceptibility, our perturbation models are efficient and sound, allowing us to determine the true label of perturbed samples without a solver. Surprisingly, with such perturbations, a sufficiently expressive neural solver does not suffer from the limitations of the accuracy-robustness trade-off common in supervised learning. Although such robust solvers exist, we show empirically that the assessed neural solvers do not generalize well w.r.t. small perturbations of the problem instance.

연구 동기 및 목표

• 부분적 또는 희박한 훈련 데이터 생성기로 인해 신경 조합 최적화 솔버의 과도한 낙관적 평가 문제를 해결하기 위해.
• 적대적 내성 도구로 사용하여 조합 최적화 데이터셋 내의 유사한 특징과 모델 전용 난이도 높은 인스턴스를 식별하기 위해.
• 외부 솔버 없이도 정확한 레이블 예측이 가능한 정확하고 효율적인 SAT 및 TSP 전용 편향 모델을 개발하기 위해.
• 적대적 내성이 신경 조합 최적화에서 신뢰할 수 있는 일반화 측정 기준이 될 수 있는지 조사하기 위해.
• 적대적 훈련이 NP-완전 문제에 대한 신경 솔버의 내성과 일반화 성능을 향상시킬 수 있음을 보여주기 위해.

제안 방법

• 외부 솔버 없이도 편향된 인스턴스의 진정한 레이블을 직접 계산할 수 있도록 보장하는 효율적이고 신뢰할 수 있는 편향 모델을 설계한다.
• SAT의 경우, 공식의 논리적 구조와 만족 가능성은 유지하면서 절에서 리터럴을 뒤집는 방식의 편향을 적용한다.
• TSP의 경우, 알려진 기하학적 성질을 활용해 최적의 순회를 정확하게 재평가할 수 있도록 간선 가중치나 노드 위치를 수정하는 방식의 편향을 적용한다.
• 이러한 편향을 활용해 훈련 분포를 초월한 모델의 일반화 취약점을 드러내는 적대적 예제를 생성한다.
• 적대적 훈련을 적용해 신경 솔버를 적대적 인스턴스에서 미세 조정함으로써 내성과 일반화 성능을 향상시킨다.
• DecisionTSP 및 ConvTSP 모델에 대해 프레임워크를 검증하고, 원본 인스턴스와 편향된 인스턴스에서의 예측을 비교한다.

실험 결과

연구 질문

• RQ1 적대적 내성은 신경 조합 최적화 솔버에서 일반화 성능을 신뢰할 수 있는 대체 측정 기준으로 활용할 수 있는가?
• RQ2 SAT 및 TSP에 일반적으로 사용되는 데이터 생성기가 모델이 단순화된 하위 문제에 과도하게 피팅되게 하는 유사한 특징을 도입하는가?
• RQ3 외부 솔버 없이도 정확한 레이블 예측이 가능한 정확하고 효율적인 SAT 및 TSP 전용 편향 모델을 설계할 수 있는가?
• RQ4 현재의 신경 솔버는 문제 인스턴스의 작은, 구조적인 편향에 얼마나 취약한가?
• RQ5 적대적 훈련은 SAT 및 TSP에 대한 신경 최적화 솔버의 내성과 일반화 성능을 향상시키는가?

주요 결과

• SAT 및 TSP를 위한 신경 솔버는 문제 인스턴스의 작은, 구조적인 편향에 매우 취약하며, 이는 일반화 성능이 열악함을 시사한다.
• 제안된 편향 모델은 효율적이며 정확하여, 외부 솔버 없이도 편향된 SAT 및 TSP 인스턴스의 정확한 레이블 계산이 가능하다.
• 표준 시각 작업과 달리 조합 최적화 분야에서는 정확도-내성 간의 상충 관계가 성립하지 않으며, 높은 정확도를 가진 모델도 높은 내성을 동시에 확보할 수 있다.
• 적대적 훈련은 SAT 및 TSP 벤치마크에서 신경 솔버의 내성을 크게 향상시켜, 새로운 편향된 인스턴스에 대한 일반화 성능도 향상시킨다.
• 이 프레임워크는 훈련 데이터 내에서 모델 전용 난이도 높은 인스턴스와 유사한 특징을 성공적으로 식별하여, 일반적으로 사용되는 데이터 생성 파이프라인의 결함을 드러냈다.
• 실험 결과는 표준 데이터 생성기로 훈련된 모델이 깨끗한 데이터에서는 높은 정확도를 달성하지만, 적대적 편향이 가해진 상황에서는 일반화 성능에 실패하는 것으로 나타났다.