[論文レビュー] Restricted Boltzmann Machines for galaxy morphology classification with a quantum annealer

João F. Caldeira, Joshua Job+3 more|arXiv (Cornell University)|Nov 14, 2019

Neural dynamics and brain function被引用数 5

ひとこと要約

本稿は、D-Wave 2000Q量子アニーリング機を用いて、銀河の形態分類のための制限付きボルツマンマシン（RBMs）を訓練する方法を検討する。量子アニーリングに基づくRBMsは、小さなデータセットでは古典的アルゴリズムを上回るが、より大きなデータセットでは勾配ブースティング木と比べて広範な性能優位性を示さない。これは、低データ環境における特定分野の応用可能性を示唆する。

ABSTRACT

We present the application of Restricted Boltzmann Machines (RBMs) to the task of astronomical image classification using a quantum annealer built by D-Wave Systems. Morphological analysis of galaxies provides critical information for studying their formation and evolution across cosmic time scales. We compress galaxy images using principal component analysis to fit a representation on the quantum hardware. Then, we train RBMs with discriminative and generative algorithms, including contrastive divergence and hybrid generative-discriminative approaches, to classify different galaxy morphologies. The methods we compare include Quantum Annealing (QA), Markov Chain Monte Carlo (MCMC) Gibbs Sampling, and Simulated Annealing (SA) as well as machine learning algorithms like gradient boosted decision trees. We find that RBMs implemented on D-Wave hardware perform well, and that they show some classification performance advantages on small datasets, but they don't offer a broadly strategic advantage for this task. During this exploration, we analyzed the steps required for Boltzmann sampling with the D-Wave 2000Q, including a study of temperature estimation, and examined the impact of qubit noise by comparing and contrasting the original D-Wave 2000Q to the lower-noise version recently made available. While these analyses ultimately had minimal impact on the performance of the RBMs, we include them for reference.

研究の動機と目的

• 近い将来の量子アニーリングハードウェア（D-Wave 2000Q）を用いて、天文学的画像分類のためのRBMsの訓練が可能かどうかを調査すること。
• MCMC、シミュレーテッドアニーリング、勾配ブースティング木といった古典的手法と比較して、量子アニーリングに基づくRBMsの訓練法を検証すること。
• 近い将来の量子ハードウェアを用いた場合の、データ圧縮およびキュービットノイズがRBMsの性能に与える影響を評価すること。
• 特に低データ環境において、量子アニーリングが銀河の形態分類において性能優位性を示すかどうかを特定すること。
• D-Waveシステムにおけるボルツマンサンプリングの忠実度を向上させるための後処理技術を評価すること。

提案手法

• D-Wave 2000Qの限られたキュービット数に合わせて、銀河画像を主成分分析（PCA）を用いて圧縮する。
• コントラストダイバージェンスおよびハイブリッド生成的・判別的アプローチを含む、判別的および生成的訓練アルゴリズムを用いたRBMsの実装。
• 量子アニーリング（QA）を用いてボルツマン分布のサンプリングエンジンとしてD-Wave 2000Qを活用し、Gibbsサンプリングを後処理ステップとして適用する。
• MCMC Gibbsサンプリングやシミュレーテッドアニーリング（SA）といった古典的最適化手法と、量子アニーリングを比較する。
• ロジスティック回帰および勾配ブースティング意思決定木をベースライン古典的モデルとして用い、モデルの訓練および評価を行う。
• 元のD-Wave 2000Qとノイズが低いバージョンを比較することで、温度推定およびキュービットノイズの影響を分析する。

実験結果

リサーチクエスチョン

• RQ1 近い将来の量子ハードウェア上で、量子アニーリングが銀河の形態分類のためのRBMsの訓練に効果的に適用可能か？
• RQ2 特に小さなデータセットにおいて、量子アニーリングに基づくRBMsの訓練は、古典的手法を上回るのか？
• RQ3 後処理技術は、D-Waveシステム上でのボルツマンサンプリングの忠実度およびその後続くRBMsの性能にどのように影響するか？
• RQ4 キュービットノイズおよび温度推定の影響は、量子で訓練されたRBMsの分類精度にどのような影響を及えるか？
• RQ5 どのような条件下（例：データサイズ、訓練エポック数）で、量子アニーリングが古典的機械学習モデルに比べて顕著な優位性を示すのか？

主な発見

• 量子アニーリングに基づくRBMsは、小さなデータセット（250件の訓練例）では、ロジスティック回帰や勾配ブースティング木よりも優れた性能を示し、後者は顕著な過学習を示した。
• 小さなデータセットおよび限られた訓練エポック数の条件下では、QAで訓練されたRBMsは、古典的RBMsおよび古典的ベースラインアルゴリズムを上回り、低データ環境における特定分野の優位性を示唆する。
• より大きなデータセットでは、勾配ブースティング木が、訓練手法に関係なく、すべてのRBMsバージョンを常に上回った。これは、この設定において量子訓練に広範な戦略的優位性がないことを示している。
• ボルツマンサンプリングの忠実度を向上させるための後処理技術は、RBMsの性能にほとんど影響を与えず、解釈可能性を重視するため、著しく簡素化された処理が採用された。
• 研究では、量子コンピュータが古典的対比物を上回る、特に初期訓練段階および限られたデータの下で、位相空間の特定領域が特定された。
• より大きな量子リソースの可能性はあったが、現在の圧縮要件が大きなRBMsの利点を制限しており、将来的にはより高いキュービット数のシステムや代替圧縮手法によって利点が現れる可能性があると示唆された。