[論文レビュー] Towards a Semantic Information Theory (Introducing Quantum Corollas)

Philip Tetlow, Dinesh Garg+5 more|arXiv (Cornell University)|Jan 14, 2022

Neural Networks and Applications被引用数 4

ひとこと要約

本論文は、意味の量子的エンタングルメントを用いた有向意味的三項対によって意味をモデル化することで、量子情報理論を拡張する新規フレームワーク「Quantum Corollas」を紹介する。記述的意味論と分布的ベクトル表現およびエンタングルメントを統合することにより、有限に測定可能でエントロピーに整合する意味の理論を構築し、意味を量子情報システムに統合する。

ABSTRACT

The field of Information Theory is founded on Claude Shannon's seminal ideas relating to entropy. Nevertheless, his well-known avoidance of meaning (Shannon, 1948) still persists to this day, so that Information Theory remains poorly connected to many fields with clear informational content and a dependence on semantics. Herein we propose an extension to Quantum Information Theory which, subject to constraints, applies quantum entanglement and information entropy as linguistic tools that model semantics through measures of both difference and equivalence. This extension integrates Denotational Semantics with Information Theory via a model based on distributional representation and partial data triples known as Corolla.

研究の動機と目的

• シャノンの情報理論における意味の長年の欠如に応えるために、記述的意味論を量子情報フレームワークに統合すること。
• ベクトルベースのシステムにおける原始的および非原始的表現の二元論を解消するため、公理的かつ導出可能な意味的原始的表現を導入すること。
• 量子エンタングルメントと情報エントロピーを用いて意味を物理的かつ測定可能な構造としてモデル化することにより、意味を物理理論に根拠づけること。
• Corolla構造を通じて、量子ネットワークにおける意味の形式的でグラフ理論的な表現を可能にし、将来の量子知識表現および情報管理システムを支援すること。

提案手法

• 部分的意味的三項対 $(n, p_{\text{directed}})$ としてCorollaを提案する。ここで $n$ は意味的ノード、$p_{\text{directed致}}$ は有向述語であり、非有向意味的三項対の半分を構成する。
• 意味的関係を、エンタングルメントによって両方の差異と同等性を符号化する量子エンタングルメント済みクサイム（qusyms）を用いてモデル化する。これにより、分散表現間での意味的整合性が実現される。
• 量子測定からの密度行列と誤差密度行列を用いて、意味的不確実性を符号化し、ヒルベルト空間内での意味的情報の圧縮を実現する。
• 分布的ベクトル表現を用いて意味的ノードと述語を形式的オントロジーに根拠づけ、量子フレームワーク内での合成的意味論を可能にする。
• Corollaが知識グラフにおける有向エッジを形成するグラフ理論的モデルを導入し、エンタングルメントが意味的整合性を強制する。
• エントロピー制約による意味的情報の定量的評価を行い、有限に表現可能な意味的構造のみが実用的に有用であると主張する。これは周期表の物理的限界に類似している。

実験結果

リサーチクエスチョン

• RQ1 意味の形式的統合が、物理的でない古典的意味モデルに依存せずに、量子情報理論に組み込まれる方法は何か？
• RQ2 量子エンタングルメントが、形式的知識表現における概念間の意味的同等性と差異をどのようにモデル化するか？
• RQ3 ベクトルベースのシステムにおいて、量子エンタングルメント表現を用いて意味的原始的表現を公理的に定義可能か。もし可能であれば、それらは第一原理からどのように導出可能か？
• RQ4 エンタングルメントとエントロピーに基づく制約を用いて、意味的情報はどの程度量子ネットワークに圧縮され、保存可能か？
• RQ5 量子系における意味的表現力の物理的および理論的限界は何か。それらはエントロピー則および量子測定の法則とどのように関係するか？

主な発見

• Corolla構造により、意味的ノードと有向述語の組み合わせによって、意味的原始的表現の形式的で公理的な表現が可能となり、非有向意味的三項対の半分を形成する。
• クサイム対間の量子エンタングルメントは、意味的差異と同等性の両方をモデル化する物理的メカニズムを提供し、量子ネットワークにおける意味的三項対の基盤を形成する。
• 量子測定からの誤差密度行列は、意味的情報を符号化・圧縮するために再利用可能であり、量子系内での意味的コンテンツの恒久的保存を可能にする。
• 意味的情報が有限に測定可能であり、古典的情報理論と補完的であることが示され、その表現力はエントロピーと物理的制約によって制限される。
• 本フレームワークは、グラフ理論的意味論を含む量子情報理論を拡張し、量子知識表現および情報管理システムの開発を可能にする。
• 意味的表現力に関する理論的限界は周期表に類似している。無限の意味的形態は論理的に可能であるが、実用的に有用なのは有限で物理的に実現可能な集合に限られる。