[論文レビュー] A Fast Graph Neural Network-Based Method for Winner Determination in Multi-Unit Combinatorial Auctions

Mengyuan Lee, Seyyedali Hosseinalipour+3 more|arXiv (Cornell University)|Sep 29, 2020

Auction Theory and Applications参考文献 43被引用数 4

ひとこと要約

本稿では、多数量組み合わせ入札（CAs）における勝者決定問題（WDP）を解くためのグラフニューラルネットワーク（GNN）ベースの手法を提案する。問題を拡張された二部グラフ（bid-itemグラフ）としてモデル化し、半畳み込みGNNを用いて入札の最適配置確率を予測する。本手法は、CPLEXに比べて著しく計算時間が短く、近似的に最適な収益を達成し、問題のサイズやユーザータイプの分布にわたって優れた一般化性能を示す。

ABSTRACT

The combinatorial auction (CA) is an efficient mechanism for resource allocation in different fields, including cloud computing. It can obtain high economic efficiency and user flexibility by allowing bidders to submit bids for combinations of different items instead of only for individual items. However, the problem of allocating items among the bidders to maximize the auctioneers" revenue, i.e., the winner determination problem (WDP), is NP-complete to solve and inapproximable. Existing works for WDPs are generally based on mathematical optimization techniques and most of them focus on the single-unit WDP, where each item only has one unit. On the contrary, few works consider the multi-unit WDP in which each item may have multiple units. Given that the multi-unit WDP is more complicated but prevalent in cloud computing, we propose leveraging machine learning (ML) techniques to develop a novel low-complexity algorithm for solving this problem with negligible revenue loss. Specifically, we model the multi-unit WDP as an augmented bipartite bid-item graph and use a graph neural network (GNN) with half-convolution operations to learn the probability of each bid belonging to the optimal allocation. To improve the sample generation efficiency and decrease the number of needed labeled instances, we propose two different sample generation processes. We also develop two novel graph-based post-processing algorithms to transform the outputs of the GNN into feasible solutions. Through simulations on both synthetic instances and a specific virtual machine (VM) allocation problem in a cloud computing platform, we validate that our proposed method can approach optimal performance with low complexity and has good generalization ability in terms of problem size and user-type distribution.

研究の動機と目的

• 多数量組み合わせ入札（CAs）における勝者決定問題（WDP）の高い計算複雑性に対処すること。WDPはNP完全であり、近似も不可能である。
• 問題のサイズやユーザータイプの分布にわたって一般化できる低複雑性の機械学習ソリューションを開発すること。
• WDP用の効率的なサンプル生成プロセスを提案することで、高価なラベル付き学習データへの依存を減らすこと。
• GNN出力を妥当な入札割り当てに変換する新しいグラフベースの後処理アルゴリズムを設計すること。
• 本手法の性能を合成インスタンスおよびクラウドコンピューティングにおける実世界の仮想マシン（VM）割り当て問題の両方で検証すること。

提案手法

• 多数量WDPを、入札と物品がノードであり、エッジが入札-物品の包含関係（数量1単位）を表す拡張された二部グラフとしてモデル化する。
• 半畳み込み演算を用いたグラフニューラルネットワーク（GNN）を用い、各入札が最適割り当てに含まれる確率を連続的なマップとして学習する。
• データ効率を向上させ、必要なラベル付き学習インスタンス数を削減するための2つの異なるサンプル生成プロセスを導入する。
• GNN出力の確率を妥当で重複のない割り当てに変換する2つの新しいグラフベースの後処理アルゴリズム（貪欲法と走査ベース）を設計する。
• 最適または近似的に最適な解をラベルとして用いてGNNを訓練することで、高収益割り当ての構造的パターンをモデルが学習できるようにする。
• 本手法は合成インスタンスおよびクラウドコンピューティングプラットフォームにおける実世界のVM割り当て問題の両方で評価される。

実験結果

リサーチクエスチョン

• RQ1 GNNベースのアプローチは、計算複雑性を著しく低減しつつ、多数量組み合わせ入札において近似的に最適な収益を達成できるか？
• RQ2 提案されたGNNモデルは、多数量CAsにおける異なる問題サイズやユーザータイプの分布にわたって、どの程度一般化できるか？
• RQ3 効率的なサンプル生成プロセスは、モデル性能を劣化させることなく、ラベル付き学習データの必要性を低減できるか？
• RQ4 提案されたグラフベースの後処理アルゴリズムは、GNN出力を妥当な入札割り当てに変換するためにどの程度有効か？
• RQ5 CPLEXやヒューリスティックアルゴリズムに比べ、GNNベースの手法は実行時間、収益損失、リソース利用効率の観点で優れているか？

主な発見

• 提案されたGNNベースの手法は、合成インスタンスにおいて平均20.17秒の実行時間で、最適解との収益差が平均2.69%にとどまる。
• CPLEXに比べて実行時間が優れており、わずかな収益損失で済ませながら、大規模問題における時間計算量の優位性を示している。
• 走査ベースの後処理アルゴリズムは反復回数を削減し、解の品質を損なわせることなく推論速度を向上させた。
• 異なるユーザータイプの分布にわたって良好な一般化性能を示し、全テスト分布（例：10%、40%、50% および 10%、30%、60%）で性能差が3.14%以内に収まっている。
• 問題のサイズが変化しても一貫した性能を維持しており、学習分布を超えた強力な一般化能力を示している。
• 特に仮想マシン（VM）割り当てにおいて、収益、効率性、ユーザー満足度のバランスを考慮した実世界への展開の可能性を示している。