[論文レビュー] A multiclass Q-NLP sentiment analysis experiment using DisCoCat

Victor D. Martínez, Guilhaume Leroy-Meline|arXiv (Cornell University)|Sep 7, 2022

Topic Modeling被引用数 6

ひとこと要約

本稿では、NISQ時代の量子ハードウェア上で、DisCoCatモデルと変分量子回路を用いたマルチクラスセンチメント分析フレームワークを提示する。先行研究の二値分類から、喜び、恐怖、怒り、悲しみの4つの感情に拡張している。COBYLA最適化手法を用いた量子回路学習により、180サンプルのデータセットで78%のF1スコアを達成し、量子NLPタスクにおけるDisCoCatのスケーラビリティを示している。

ABSTRACT

Sentiment analysis is a branch of Natural Language Processing (NLP) which goal is to assign sentiments or emotions to particular sentences or words. Performing this task is particularly useful for companies wishing to take into account customer feedback through chatbots or verbatim. This has been done extensively in the literature using various approaches, ranging from simple models to deep transformer neural networks. In this paper, we will tackle sentiment analysis in the Noisy Intermediate Scale Computing (NISQ) era, using the DisCoCat model of language. We will first present the basics of quantum computing and the DisCoCat model. This will enable us to define a general framework to perform NLP tasks on a quantum computer. We will then extend the two-class classification that was performed by Lorenz et al. (2021) to a four-class sentiment analysis experiment on a much larger dataset, showing the scalability of such a framework.

研究の動機と目的

• 先行の二値分類量子センチメント分類を、四値分類のマルチクラスセンチメント分類タスクに拡張すること。
• 近い将来の量子ハードウェア上で、DisCoCatモデルを量子自然言語処理（QNLP）に適用する際のスケーラビリティと実現可能性を評価すること。
• テンソル積表現と後選択を用いることで、量子強化NLPパイプラインがより大規模で複雑なセンチメント分類タスクを処理できることを示すこと。
• 四つの感情クラスを有する実世界のセンチメントデータセットに対して、交差エントロピー損失を用いて学習された変分量子回路の性能を評価すること。
• 量子データ符号化によって誘導される高次元ヒルベルト空間におけるカーネルベース学習を通じて、NLPにおける量子優位性の可能性を探ること。

提案手法

• 文を句構造木に解析し、オープンソースのモノイダル圏ツールキットであるDiscoPyを用いてDisCoCat図式に表現する。
• 単語埋め込みのテンソル積表現（TPR）を用いて文の意味を符号化し、古典的手段に比べて指数的スケーリング優位性を活用する。
• 各単語に対して2キュービットを割り当て、制御Z回転とアダマールゲートを用いてエンタングルメントと重ね合わせを実現することで、DisCoCat図式をパラメータ化された量子回路（アーサンツ）にマッピングする。
• 交差エントロピー損失関数と、ノイズの多い中規模量子（NISQ）デバイスに適した勾配フリー手法であるCOBYLA最適化手法を用いて、量子回路のパラメータを学習する。
• アタシリアキュービット（rキュービット）が0に測定された場合に限って、測定結果を保持する後選択を適用し、最終的なセンチメント分類の有効な結果を保証する。
• 測定キュービットの結果確率を収集するために、量子回路を複数回実行し、それらが直接的に予測されたセンチメントクラス（例：|00⟩, |01⟩など）に対応する。

実験結果

リサーチクエスチョン

• RQ1 量子NLPパイプライン上で、DisCoCatモデルが二値分類から四値分類センチメント分類に効果的に拡張可能か。
• RQ2 多クラスセンチメントデータセット上で学習された変分量子回路の性能は、F1スコアおよび混同パターンの観点から、古典的ベースラインと比較してどの程度か。
• RQ3 量子回路のアーキテクチャと後選択メカニズムが、近い将来の量子ハードウェア上でスケーラブルなセンチメント分類をどの程度サポートするか。
• RQ4 文の長さと語彙サイズが、量子NLPパイプラインのリソース要件と性能に与える影響はどの程度か。
• RQ5 量子回路符号化による量子強化カーネルマッピングが、センチメント分類タスクにおける量子優位性への道筋を提供するか。

主な発見

• 提案された量子NLPパイプラインは、四値分類センチメント分類（喜び、恐怖、怒り、悲しみ）の180サンプルのテストセットで78%のF1スコアを達成した。
• 正規化された混同行列は対角成分に強く集中しており、分類精度が高く、感情クラス間の誤分類が少ないことを示している。
• トレーニング曲線（図7）における交差エントロピー損失の減少から、トレーニングプロセスが安定して収束したことが裏付けられている。
• アタシリアキュービットの後選択が測定結果をフィルタリングするために効果的に適用され、残りの有効な実行からの信頼性のある分類が保証された。
• 語彙、文数、文の長さがキュービット数に対して線形または亜線形にスケーリングされることを示しており、将来的なスケーラビリティを支持している。
• 有望な結果であったが、古典的ベースライン（例：TF-IDF + ベイズ推定）は95%の精度を示し、量子モデルを上回った。これは、量子回路の深さとノイズの現在の限界を示している。