[논문 리뷰] A Fast Graph Neural Network-Based Method for Winner Determination in Multi-Unit Combinatorial Auctions

Mengyuan Lee, Seyyedali Hosseinalipour외 3명|arXiv (Cornell University)|2020. 09. 29.

Auction Theory and Applications참고 문헌 43인용 수 4

한 줄 요약

이 논문은 다중 단위 조합 입찰(Combinatorial Auctions, CAs)에서 승자 결정 문제(Winner Determination Problem, WDP)를 해결하기 위해 그래프 신경망(Graph Neural Network, GNN) 기반의 방법을 제안한다. 문제는 확장된 이분 그래프로 모델링되며, 반-컨볼루션 GNN을 사용해 입찰 포함 확률을 예측한다. 이 방법은 CPLEX보다 훨씬 낮은 계산 시간으로 최적에 가까운 수익을 달성하며, 문제 크기와 사용자 유형 분포에 걸쳐 뛰어난 일반화 성능을 보인다.

ABSTRACT

The combinatorial auction (CA) is an efficient mechanism for resource allocation in different fields, including cloud computing. It can obtain high economic efficiency and user flexibility by allowing bidders to submit bids for combinations of different items instead of only for individual items. However, the problem of allocating items among the bidders to maximize the auctioneers" revenue, i.e., the winner determination problem (WDP), is NP-complete to solve and inapproximable. Existing works for WDPs are generally based on mathematical optimization techniques and most of them focus on the single-unit WDP, where each item only has one unit. On the contrary, few works consider the multi-unit WDP in which each item may have multiple units. Given that the multi-unit WDP is more complicated but prevalent in cloud computing, we propose leveraging machine learning (ML) techniques to develop a novel low-complexity algorithm for solving this problem with negligible revenue loss. Specifically, we model the multi-unit WDP as an augmented bipartite bid-item graph and use a graph neural network (GNN) with half-convolution operations to learn the probability of each bid belonging to the optimal allocation. To improve the sample generation efficiency and decrease the number of needed labeled instances, we propose two different sample generation processes. We also develop two novel graph-based post-processing algorithms to transform the outputs of the GNN into feasible solutions. Through simulations on both synthetic instances and a specific virtual machine (VM) allocation problem in a cloud computing platform, we validate that our proposed method can approach optimal performance with low complexity and has good generalization ability in terms of problem size and user-type distribution.

연구 동기 및 목표

• 다중 단위 조합 입찰에서 발생하는 승자 결정 문제(WDP)의 높은 계산 복잡도를 해결하기 위해, 이는 NP-완전이며 근사가 불가능하다.
• 다양한 문제 크기와 사용자 유형 분포에 걸쳐 일반화 가능한 저복잡도 기계학습 솔루션을 개발하기 위해.
• WDP에 대한 레이블이 부여된 훈련 데이터에 대한 의존도를 줄이기 위해 효율적인 샘플 생성 과정을 제안하기 위해.
• GNN 출력을 타당한 입찰 배정으로 변환하는 새로운 그래프 기반 후처리 알고리즘을 설계하기 위해.
• 실제 클라우드 컴퓨팅 환경에서의 가상 머신(Virtual Machine, VM) 할당 사례와 같은 실제 사례에 대해 방법의 성능을 검증하기 위해.

제안 방법

• 다중 단위 WDP는 입찰과 물품이 노드이고, 엣지는 입찰-물품 포함 관계와 단위 수를 나타내는 확장된 이분 그래프로 모델링된다.
• 반-컨볼루션 연산을 사용하는 그래프 신경망(GNN)을 활용해 각 입찰가가 최적 배정에 포함될 가능성을 나타내는 연속적인 확률 맵을 학습한다.
• 데이터 효율성을 향상시키고 레이블이 부여된 훈련 인스턴스의 수를 줄이기 위해 두 가지 다른 샘플 생성 과정을 도입한다.
• GNN 출력 확률을 타당하고 상호 간섭이 없는 배정으로 변환하기 위해 두 가지 새로운 그래프 기반 후처리 알고리즘—그리디 및 탐색 기반—을 설계한다.
• 최적 또는 최적에 가까운 해를 레이블로 사용해 GNN을 훈련함으로써, 고수익 배정의 구조적 패턴을 모델이 학습할 수 있도록 한다.
• 이 방법은 합성 인스턴스와 클라우드 컴퓨팅 플랫폼에서의 실제 VM 할당 문제에 대해 평가된다.

실험 결과

연구 질문

• RQ1 GNN 기반 접근법은 계산 복잡도를 크게 줄이며 다중 단위 조합 입찰에서 최적에 가까운 수익을 달성할 수 있는가?
• RQ2 제안된 GNN 모델은 다중 단위 CAs에서 다양한 문제 크기와 사용자 유형 분포에 걸쳐 얼마나 잘 일반화되는가?
• RQ3 효율적인 샘플 생성 과정은 모델 성능을 떨어뜨리지 않고 레이블이 부여된 훈련 데이터의 필요성을 줄일 수 있는가?
• RQ4 제안된 그래프 기반 후처리 알고리즘은 GNN 출력을 타당한 입찰 배정으로 변환하는 데 얼마나 효과적인가?
• RQ5 CPLEX나 휴리스틱 알고리즘과 비교해 GNN 기반 방법은 실행 시간, 수익 손실, 자원 활용도 측면에서 뛰어나게 성능을 발휘하는가?

주요 결과

• 제안된 GNN 기반 방법은 합성 인스턴스에서 평균적으로 최적 해와 2.69%의 수익 격차를 보이며, 평균 실행 시간은 20.17초였다.
• CPLEX보다 실행 시간에서 뛰어난 성능을 보이며, 수익 손실은 미미하게 유지함으로써 대규모 문제에 대해 뛰어난 시간 복잡도를 확보했다.
• 탐색 기반 후처리 알고리즘이 반복 횟수를 줄여 추론 속도를 향상시키면서도 해의 품질을 손상시키지 않았다.
• 다양한 사용자 유형 분포에 걸쳐 뛰어난 일반화 성능을 보였으며, 모든 테스트된 분포(예: 10%, 40%, 50% 및 10%, 30%, 60%)에서 성능 격차가 3.14% 이내로 유지되었다.
• 다양한 문제 크기에서 일관된 성능을 유지함으로써, 훈련 분포 외부로도 강력한 일반화 능력을 보였다.
• 특히 클라우드 환경에서의 VM 할당에 있어 실용적 적용 가능성이 높으며, 수익, 효율성, 사용자 만족도를 균형 있게 확보한다.