[論文レビュー] The Quantum Version Of Classification Decision Tree Constructing Algorithm C5.0

Kamil Khadiev, Ilnaz Mannapov+1 more|arXiv (Cornell University)|Jul 16, 2019

Quantum Computing Algorithms and ArchitectureComputer Science参考文献 22被引用数 18

ひとこと要約

本稿では、振幅増幅や Dürr-Høyer 最小値探索といった量子サブルーチンを活用して高速化を実現する、C5.0 決定木アルゴリズムの量子強化版を提案する。自己平衡化二分探索木を用いて古典的 C5.0 アルゴリズムを改善し、実行時間 $ O(h\sqrt{d}\log d \cdot N\log N) $ の量子版（QC5.0）を提示。属性数の観点から、古典的手法に比べてほぼ2乗の高速化を達成する。

ABSTRACT

In the paper, we focus on complexity of C5.0 algorithm for constructing decision tree classifier that is the models for the classification problem from machine learning. In classical case the decision tree is constructed in $O(hd(NM+N \log N))$ running time, where $M$ is a number of classes, $N$ is the size of a training data set, $d$ is a number of attributes of each element, $h$ is a tree height. Firstly, we improved the classical version, the running time of the new version is $O(h\cdot d\cdot N\log N)$. Secondly, we suggest a quantum version of this algorithm, which uses quantum subroutines like the amplitude amplification and the D{ü}rr-Høyer minimum search algorithms that are based on Grover's algorithm. The running time of the quantum algorithm is $O\big(h\cdot \sqrt{d}\log d \cdot N \log N\big)$ that is better than complexity of the classical algorithm.

研究の動機と目的

• 自己平衡化二分探索木（例：AVL木や赤黒木）を用いて属性値の追跡を最適化し、ソートのオーバーヘッドを低減することで、古典的 C5.0 アルゴリズムの時間計算量を低減する。
• 量子サブルーチンを活用して高速な計算を実現する C5.0 アルゴリズムの量子版を開発する。
• 大規模な分類問題における決定木の構築において顕著な高速化を達成する。
• 量子機械学習が決定木の構築に応用可能であることを実証し、性能向上の可能性を示す。

提案手法

• 属性値の追跡とソートのオーバーヘッド低減のため、古典的データ構造を自己平衡化二分探索木（例：AVL木や赤黒木）に置き換える。
• 決定木における最適なスプリット属性の選定を高速化するため、Dürr-Høyer 量子アルゴリズムを用いて最小値探索を実行する。
• スーパポジション状態で最良のゲイン比を持つ属性を効率的に特定するため、振幅増幅を適用する。
• 量子ルーチンが属性選択を担当し、古典的論理が木の構築を管理するハイブリッド古典-量子フレームワークに量子サブルーチンを統合する。
• スプリット選択の信頼性を向上させるために、量子最大値探索手順を $ \log d $ 回繰り返す。
• 量子アルゴリズムが訓練データにブラックボックスオラクルを通じてアクセスできるクエリモデルを採用し、実行時間をクエリ数で測定する。

実験結果

リサーチクエスチョン

• RQ1 自己平衡化二分探索木を用いることで、古典的 C5.0 アルゴリズムの時間計算量を低減できるか？
• RQ2 量子アルゴリズムは、決定木構築の属性選択フェーズに効果的に適用可能か？
• RQ3 量子強化 C5.0 アルゴリズムの理論的実行時間は、古典的実装と比較してどの程度改善されるか？
• RQ4 木の内部ノード数が増加するに従い、量子属性選択の成功確率はどのように変化するか？
• RQ5 量子版は属性数の観点からほぼ2乗の高速化を達成できるか？

主な発見

• 自己平衡化二分探索木を用いた改良版古典的 C5.0 アルゴリズムは、$ O(h d N \log N) $ の実行時間を達成し、重複するソート手順を排除することで、元の計算量を低減する。
• 量子版である QC5.0 は、$ O(h \sqrt{d} \log d \cdot N \log N) $ の実行時間を達成し、属性数 $ d $ に対してほぼ2乗の高速化を実現する。
• QC5.0 の成功確率は $ O\big{(}(1 - \frac{1}{d})^k\big{)} $ であり、$ k $ が内部ノード数を表す。$ \log d $ 回繰り返すことで、高い信頼性が得られる。
• 振幅増幅と Dürr-Høyer の最小値探索アルゴリズムを組み合わせることで、最良のスプリット属性を効率的に特定する。
• 量子サブルーチンにより、属性選択ステップの時間計算量を $ O(d) $ から $ O(\sqrt{d}) $ に低減し、大規模データセットでの全体的なパフォーマンス向上を実現する。
• 理論的分析により、QC5.0 が古典的 C5.0 より顕著な漸近的改善を達成することが確認され、特に高次元データ環境下で顕著である。