[論文レビュー] A Bayesian Approach to Low-Discrepancy Subset Selection

Nathan Kirk|arXiv (Cornell University)|Feb 16, 2026

Mathematical Approximation and Integration被引用数 0

ひとこと要約

論文は低離散度デザインのカーネルベースの部分集合選択がNP困難であることを証明し、深い埋め込みカーネルを用いたベイズ最適化フレームワークを提案して、Discrepancyを最小化する部分集合を選択します。

ABSTRACT

Low-discrepancy designs play a central role in quasi-Monte Carlo methods and are increasingly influential in other domains such as machine learning, robotics and computer graphics, to name a few. In recent years, one such low-discrepancy construction method called subset selection has received a lot of attention. Given a large population, one optimally selects a small low-discrepancy subset with respect to a discrepancy-based objective. Versions of this problem are known to be NP-hard. In this text, we establish, for the first time, that the subset selection problem with respect to kernel discrepancies is also NP-hard. Motivated by this intractability, we propose a Bayesian Optimization procedure for the subset selection problem utilizing the recent notion of deep embedding kernels. We demonstrate the performance of the BO algorithm to minimize discrepancy measures and note that the framework is broadly applicable any design criteria.

研究の動機と目的

• クアシーエムトー控えめなモンテカルロおよび関連アプリケーションで低離散度デザインの利用を動機づける。
• カーネルベースの不一致に対する部分集合選択の難易度を拡張。
• 深い埋め込みカーネルを用いた部分集合選択のためのベイズ最適化フレームワークを開発。
• 制限された評価予算の下でBOアプローチの実証的有効性を示す。

提案手法

• 制約付き2-1問題からの還元によりカーネル不一致の部分集合選択がNP困難であることを示す。
• 集合値入力に対するガウス過程代替物を可能にする深い埋め込みカーネルを導入。
• 目的関数 f(P_m)=D_2^k(P_m) を用いて部分集合空間上のベイズ最適化を定式化し、安定性のために対数変換を用いる。
• RKHS上の距離に基づくGP事前分布を定義するためにDEカーネルを用い、Expected Improvementで最適化。
• 組合せ的部分集合空間をナビゲートするためにBO内で1-交換近傍ヒルクライミングを実施。
• 2D実験で BO-DE を Random、BO-DS、Greedy Local Swap と比較し、L2、カーネルMMD、L_infty 星不一致について評価。

実験結果

リサーチクエスチョン

• RQ1 カーネル不一致に関する部分集合選択はNP困難か？
• RQ2 深い埋め込みカーネルを用いたベイズ最適化は部分集合選択における不一致を効果的に最小化できるか？
• RQ3 提案手法 BO-DE は異なる不一致測度を最小化する際にベースライン手法より優れているか？
• RQ4 この組合せ最適化問題における代理モデルとして DEカーネルは DSカーネルと比較してどうか？

主な発見

• カーネル不一致下の部分集合選択はNP困難である。
• 深い埋め込みカーネルを備えたベイズ最適化フレームワークは、固定評価予算内で不一致を大幅に低減する。
• 2D実験で DEベースのBO は Random、DSベースBO、Greedy Local Swap よりも対称L2不一致、最大平均不一致、L_infty星不一致の最小化で優れる。
• BO-DE は母集団点のより均一なカバレッジを生み出し、貪欲法で生じ得るクラスタリングを回避する。
• DE代理モデルは、評価コストが高い目的関数（例：L_infty星不一致）の場合に特に有利である。