[論文レビュー] Feature Selection on Quantum Computers

Sascha Mücke, Raoul Heese+3 more|arXiv (Cornell University)|Mar 24, 2022

Metaheuristic Optimization Algorithms Research被引用数 6

ひとこと要約

本稿では、2次無制約0-1最適化（QUBO）に基づく、特徴量の重要度と重複度を相互情報量を用いて同時に最適化する、量子コンピュータに適合する新規な特徴選択アルゴリズムを提案する。古典的および量子ハードウェア（特に量子アニーリング機器）においても競争力のある性能を示し、次世代のNISQデバイスにおける次元削減タスクへの実用性を示している。

ABSTRACT

In machine learning, fewer features reduce model complexity. Carefully assessing the influence of each input feature on the model quality is therefore a crucial preprocessing step. We propose a novel feature selection algorithm based on a quadratic unconstrained binary optimization (QUBO) problem, which allows to select a specified number of features based on their importance and redundancy. In contrast to iterative or greedy methods, our direct approach yields higherquality solutions. QUBO problems are particularly interesting because they can be solved on quantum hardware. To evaluate our proposed algorithm, we conduct a series of numerical experiments using a classical computer, a quantum gate computer and a quantum annealer. Our evaluation compares our method to a range of standard methods on various benchmark datasets. We observe competitive performance.

研究の動機と目的

• 反復的または貪欲な制約を用いない、選択された特徴量の数を直接制御できる特徴選択手法の開発。
• 特徴選択をQUBO問題として定式化することで、特徴量サブセットの量子互換性最適化を可能にする。
• 実際のベンチマークデータセットを用いて、古典的システム、量子アニーリング（D-Wave）、ゲート型量子コンピュータ（IBM Q）の各環境で、本手法の性能を評価する。
• 近い将来の量子ハードウェアが機械学習分野の特徴選択問題を解くことの可能性を示す。
• 相互情報量以外の重要度および重複度の測定法を容易に統合できる柔軟なフレームワークを提供する。

提案手法

• 特徴選択をQUBO問題として定式化：最小化 $ Q(\mathbf{x}, \alpha) = -\alpha \sum I_i x_i + (1 - \alpha) \sum R_{ij} x_i x_j $、ここで $ \mathbf{x} \in \{0,1\}^n $ はバイナリ特徴選択子である。
• 重要度測定に相互情報量 $ I(x_i; y) $、重複度測定に $ I(x_i; x_j) $ を使用。両者とも非負かつ対称的である。
• 重要度（最大化）と重複度（最小化）のバランスを取るために、調整可能なパラメータ $ \alpha \in [0,1] $ を用いる。
• QUBOを古典的ソルバー、量子アニーリング（D-Wave）、IBM量子ハードウェア上の変分量子固有状態ソルバー（VQE）を用いて解く。
• ベンチマークデータセット（例：synth_10, waveform, ionosphere）に本手法を適用し、下流の機械学習モデルによる性能評価を実施。
• 比較のため、特に低次元設定において最適解を特定するためにブルートフォースな全探索を適用。

実験結果

リサーチクエスチョン

• RQ1 QUBOベースの特徴選択手法は、反復的または貪欲な選択戦略を用いずに、高品質な解を達成できるか？
• RQ2 本稿で提案するQUBOベースの特徴選択手法の性能は、古典的、量子アニーリング、ゲート型量子ハードウェアの各環境でどのように比較されるか？
• RQ3 D-Waveの量子アニーリング機器やIBMのゲート型プロセッサといった近い将来の量子デバイスが、現実の特徴選択問題をどの程度解けるか？
• RQ4 実際の運用において、$ \alpha $ の選択が特徴量の重要度と重複度のトレードオフにどのように影響するか？
• RQ5 現在の量子ハードウェアの制限を考慮しても、本手法はより大きなデータセットに効果的にスケーリング可能か？

主な発見

• 提案されたQUBOベースの特徴選択手法は、ベンチマークデータセットにおいて、標準的な古典的特徴選択手法と比較して競争力のある性能を達成した。
• synth_10データセットにおいて、量子アニーリング（D-Wave）は100%の確率でグローバル最適解を特定し、測定されたビット周波数がグローバル最適解と非常に近い値を示した。
• 同じデータセットにおいて、シミュレーテッドアニーリングは実際のD-Waveハードウェアを上回る性能を示した。これは、ノイズやハードウェア制限が実際の量子デバイスの性能を劣化させることを示唆している。
• IBMのゲート型量子コンピュータ上で実行されたVQEは、測定の0.14%でのみグローバル最適解に到達した。これは収束が不十分で、ハードウェアのノイズに非常に敏感であることを示している。
• ハードウェアの制限が存在する中でも、本手法は特に低次元問題において近い将来の量子デバイスでの実用性を示している。
• フレームワークは柔軟かつ拡張可能であり、相互情報量に加え、ピアソン相関係数やエントロピーといった他の測定法への置き換えが可能で、コアアルゴリズムの変更なしに実現できる。