[논문 리뷰] Augment with Care: Contrastive Learning for Combinatorial Problems

Haonan Duan, Pashootan Vaezipoor외 3명|arXiv (Cornell University)|2022. 02. 17.

Advanced Graph Neural Networks인용 수 5

한 줄 요약

이 논문은 조합 문제, 특히 부울 만족 가능성(SAT) 문제에 대해 레이블 유지형 데이터 증강을 활용한 대비 학습 대비 자기 지도 학습을 제안한다. 변수 제거와 문장 해소와 같은 잘 알려진 불변성을 활용하여 만족 가능성 유지형 증강을 생성함으로써, 레이블의 1%만을 사용하여 완전히 지도 학습한 결과와 유사한 성능를 달성하였으며, 새로운 문제 도메인으로의 전이 능력에서도 뛰어난 성능을 보였다.

ABSTRACT

Supervised learning can improve the design of state-of-the-art solvers for combinatorial problems, but labelling large numbers of combinatorial instances is often impractical due to exponential worst-case complexity. Inspired by the recent success of contrastive pre-training for images, we conduct a scientific study of the effect of augmentation design on contrastive pre-training for the Boolean satisfiability problem. While typical graph contrastive pre-training uses label-agnostic augmentations, our key insight is that many combinatorial problems have well-studied invariances, which allow for the design of label-preserving augmentations. We find that label-preserving augmentations are critical for the success of contrastive pre-training. We show that our representations are able to achieve comparable test accuracy to fully-supervised learning while using only 1% of the labels. We also demonstrate that our representations are more transferable to larger problems from unseen domains. Our code is available at https://github.com/h4duan/contrastive-sat.

연구 동기 및 목표

• SAT와 같은 대규모 조합 문제의 레이블링 비용이 매우 높아, 이는 NP-완전 문제로서 대규모로 해결하기에 실현 가능하지 않기 때문이다.
• 대비 사전 학습이 조합 최적화 문제에서 비용이 많이 드는 레이블에 대한 의존도를 줄일 수 있는지 조사하기 위해이다.
• 특히 레이블 유지형 증강과 레이블 간섭 없는 증강 간의 증강 설계가 최종 성능에 미치는 영향을 평가하기 위해이다.
• 자기 지도 표현이 지도 학습 표현보다 다양한 도메인 간에 더 잘 일반화되는지 탐색하기 위해이다.
• 조합 문제에서 알려진 불변성을 활용하면 낮은 데이터 환경에서도 효과적인 표현 학습이 가능하다는 것을 보여주기 위해이다.

제안 방법

• 이 방법은 각 SAT 인스턴스를 변수 제거 및 문장 해소와 같은 만족 가능성 유지 변환을 통해 증강하는 대비 학습 프레임워크를 사용한다.
• 증강은 CNF 형태의 SAT 공식에 이러한 변환을 무작위로 적용하여 만족 가능성 상태를 유지하도록 생성된다.
• 그래프 신경망(GNN) 인코더는 각 증강된 공식의 리터럴-문장 인cidenece 그래프(LIG⁺)를 처리하여 노드 수준의 표현을 생성한다.
• 대비 목적함수는 동일한 인스턴스의 서로 다른 증강 간 표현 간 일치를 최대화하고, 다른 인스턴스 간 일치를 최소화한다.
• 다음으로, 동결된 인코더 특징을 기반으로 선형 분류기 모델을 훈련시켜 SAT/UNSAT를 분류함으로써 표현 품질을 평가한다.
• 저샷 및 제로샷 전이 설정에서 이 방법을 지도 기반 모델 및 표준 그래프 증강 기반 방법과 비교하여 평가한다.

실험 결과

연구 질문

• RQ1 데이터 증강 설계가 조합 문제에서 대비 사전 학습의 성능에 상당한 영향을 미치는가?
• RQ2 레이블 유지형 증강이 레이블 수를 크게 줄였음에도 불구하고 완전히 지도 학습한 결과와 동등하거나 이를 초월하는 표현을 생성할 수 있는가?
• RQ3 자기 지도 표현의 전이 능력이 다양한 문제 도메인 간에 지도 표현보다 뛰어나게 되는가?
• RQ4 알려진 불변성 기반 증강(예: 문장 해소)이 표준 그래프 수준 증강(예: 노드 제거, 특징 마스킹)보다 더 효과적인가?
• RQ5 대비 사전 학습이 원천 도메인 레이블에 대한 과적합을 줄여, 새로운 문제 유형으로의 일반화 능력을 향상시키는가?

주요 결과

• 제안된 대비 방법은 레이블 훈련 데이터의 1%만을 사용하여 최고의 완전 지도 학습 기반 모델과 유사한 테스트 정확도를 달성하였다.
• 레이블 유지형 증강, 특히 문장 해소 기반 증강이 강력한 성능을 내는 데 필수적이었으며, 표준 그래프 증강(예: 노드 제거)은 의미 있는 성능 향상을 이끌지 못했다.
• 모든 데이터셋에서 레이블 수가 적은 환경에서 뛰어난 성능을 보이며, 샘플 복잡도를 최소 100배 이상 감소시켰다.
• 자기 지도 표현은 지도 표현보다 훨씬 더 뛰어난 전이 능력을 보였으며, 특히 합성 문제에서 산업 문제로 또는 그 반대로의 전이에서 두드러진 성능 향상을 보였다.
• 합성 생성기(SR, PR)에서 사전 학습한 모델이 산업 데이터셋(DP, PS)으로의 전이 성능이 더 높았으며, 이는 합성 데이터에서 풍부한 불변성을 갖춘 데이터가 더 일반화 가능한 표현을 생성함을 시사한다.
• 원천 도메인과 타겟 도메인이 더 다를수록 전이 성능이 높아졌으며, 이는 자기 지도 학습이 원천 도메인 전용 패턴에 대한 과적합을 줄임을 의미한다.