[論文レビュー] Meaning updating of density matrices

Bob Coecke, Konstantinos Meichanetzidis|arXiv (Cornell University)|Jan 3, 2020

Topic Modeling参考文献 41被引用数 9

ひとこと要約

本稿は、二重密度行列を用いた図式的で内部的な意味表現更新機構を提案し、量子基礎からの非可換更新プロセスと語彙的曖昧性モデリングを統合する。DisCoCircの拡張として、時間的で非可換な意味更新を、代数的に整合的かつ量子ハードウェアで実装可能にする。

ABSTRACT

The DisCoCat model of natural language meaning assigns meaning to a sentence given: (i) the meanings of its words, and, (ii) its grammatical structure. The recently introduced DisCoCirc model extends this to text consisting of multiple sentences. While in DisCoCat all meanings are fixed, in DisCoCirc each sentence updates meanings of words. In this paper we explore different update mechanisms for DisCoCirc, in the case where meaning is encoded in density matrices---which come with several advantages as compared to vectors. Our starting point are two non-commutative update mechanisms, borrowing one from quantum foundations research, from Leifer and Spekkens. Unfortunately, neither of these satisfies any desirable algebraic properties, nor are internal to the meaning category. By passing to double density matrices we do get an elegant internal diagrammatic update mechanism. We also show that (commutative) spiders can be cast as an instance of the Leifer-Spekkens update mechanism. This result is of interest to quantum foundations, as it bridges the work in Categorical Quantum Mechanics (CQM) with that on conditional quantum states. Our work also underpins implementation of text-level natural language processing on quantum hardware (a.k.a. QNLP), for which exponential space-gain and quadratic speed-up have previously been identified.

研究の動機と目的

• DisCoCatの静的意味表現の限界を克服し、文単位の動的意味更新を導入すること。
• 既存の二つの非可換更新機構（fuzz と phaser）を、単一で代数的に整合性のある枠組みに統合すること。
• 密度行列と完全正の写像の圏内で、内部的かつ図式的な更新機構を提供すること。
• 後選択と量子回路と互換性のある形式的枠組みを通じて、テキストレベルのNLPを近い将来の量子ハードウェアで実装可能にする。

提案手法

• 意味カテゴリ内で意味更新プロセスを内部化するための形式的枠組みとして、二重密度行列を導入する。
• 非可換スパインダーと条件付き密度行列を用いた図式的合成により、文単位の更新を表現する。
• 凸結合による複数の意味分岐の結合により、曖昧な形容詞（例：'black'）をfuzz機構でモデル化する。
• 元々量子ベイジアン推論から来ていたphaser機構が、非可換な設定におけるスパインダーから導出可能であることを示す。
• fuzzおよびphaserの両方が、二重密度行列更新形式的枠組みの特殊なケースであることを示す。
• 正規直交基底とランク1射影子を用いて語の意味とその更新をモデル化し、色と曖昧性に関する具体的な例を提示する。

実験結果

リサーチクエスチョン

• RQ1 時間的順序と非可換性を尊重する形で、テキスト内の意味更新をどのように形式化できるか？
• RQ2 phaserとfuzzの更新機構は、単一で代数的に整合性のある枠組みに統合可能か？
• RQ3 密度行列と完全正の写像の圏内で、意味更新を内部化する方法はあるか？
• RQ4 得られた形式的枠組みは、近い将来の量子ハードウェアで実装可能か？
• RQ5 二重密度行列は、どのように図式的かつ結合的意味更新の取り扱いを可能にするか？

主な発見

• 二重密度行列形式的枠組みは、元のfuzzおよびphaser機構とは異なり、望ましい代数的性質を満たす内部的で図式的に洗練された更新機構を提供する。
• phaser更新機構は、可換スパインダーの非可換一般化であることが示され、それらを単一の枠組みに統合する。
• fuzz機構は、語彙的曖昧性（例：'black metal' がジャンルとしても物質としても意味する）を凸結合による意味分岐の結合により、うまくモデル化する。
• 具体的な例では、'door turns red' と 'door turns black' が、非可換なランク1射影子を用いた逐次的射影的更新によってモデル化される。
• 形式的枠組みは量子ハードウェアと互換性があり、二重密度行列は後選択を伴う標準的な密度行列として実現可能である。
• コーパスベースの期待に裏付けられた実証的妥当性が示され、曖昧な形容詞は文脈に応じて解釈が分岐し、モデルは期待される意味のシフトを再現する。