[论文解读] Towards a Semantic Information Theory (Introducing Quantum Corollas)

Philip Tetlow, Dinesh Garg+5 more|arXiv (Cornell University)|Jan 14, 2022

Neural Networks and Applications被引用 4

一句话总结

本文提出了「量子科罗拉」（Quantum Corollas）——一種新型框架，透過以量子糾結的有向語義三元組建模語義意義，將語義理論延伸至量子資訊理論。結合指稱語義與分佈式向量表達及糾結現象，該框架建立了一套可有限度量度、符合熵定律的語義理論，使語義得以整合於量子資訊系統之中。

ABSTRACT

The field of Information Theory is founded on Claude Shannon's seminal ideas relating to entropy. Nevertheless, his well-known avoidance of meaning (Shannon, 1948) still persists to this day, so that Information Theory remains poorly connected to many fields with clear informational content and a dependence on semantics. Herein we propose an extension to Quantum Information Theory which, subject to constraints, applies quantum entanglement and information entropy as linguistic tools that model semantics through measures of both difference and equivalence. This extension integrates Denotational Semantics with Information Theory via a model based on distributional representation and partial data triples known as Corolla.

研究动机与目标

• 為解決香農資訊理論長期缺乏語義的問題，將指稱語義整合至量子資訊框架之中。
• 透過引入公理化、可推導的語義原語，解決基於向量系統中原始與非原始表達之間的二元對立。
• 利用量子糾結與資訊熵，將語義意義建模為物理上可度量的實體，從而使語義建立於物理理論基礎之上。
• 透過科罗拉結構，實現量子網絡中語義的正式圖論表達，支援未來的量子知識表達與資訊管理系統。

提出的方法

• 提出科罗拉作為部分語義三元組 $(n, p_{ ext{directed}})$，其中 $n$ 為語義節點，$p_{ ext{directed}}$ 為有向謂詞，構成非有向語義三元組的一半。
• 利用量子糾結的 qusym 做語義關係建模，其中糾結同時編碼差異與等價，實現分佈式表達中的語義一致性。
• 應用來自量子測量的密度矩陣與誤差密度矩陣，以編碼語義不確定性，並在希爾伯特空間中壓縮語義資訊。
• 使用分佈式向量表達，將語義節點與謂詞置於形式本體論中，於量子框架內實現組合語義。
• 引入語義資訊的圖論模型，其中科罗拉作為知識圖中之有向邊，糾結確保語義一致性。
• 透過熵約束量化語義資訊，主張唯有可有限表達的語義結構才具實用價值，類比於週期表的物理限制。

实验结果

研究问题

• RQ1 如何在不依賴經典非物理語義模型的前提下，將語義意義正式整合至量子資訊理論？
• RQ2 量子糾結在形式知識表達中，於概念之間建模語義等價與差異時扮演何種角色？
• RQ3 能否在基於向量的系統中，利用量子糾結表達定義語義原語的公理化形式？若可，其如何從基本原理推導而出？
• RQ4 在量子網絡中，能否利用糾結與基於熵的約束來壓縮與持久儲存語義資訊？
• RQ5 語義表達的物理與理論極限為何？其與熵定律及量子測量法則有何關聯？

主要发现

• 科罗拉結構透過結合語義節點與有向謂詞，實現語義原語的正式公理化表達，形成非有向語義三元組的一半。
• qusym 對之間的量子糾結提供了一種物理機制，用以建模語義差異與等價，構成量子網絡中語義三元組的基礎。
• 來自量子測量的誤差密度矩陣可重新用於編碼與壓縮語義資訊，實現語義內容在量子系統中的持久儲存。
• 語義資訊被證明可有限度量，且與古典資訊理論互補，其表達能力受熵與物理限制所約束。
• 該框架將量子資訊理論延伸至圖論語義，使量子知識表達與資訊管理系統的發展成為可能。
• 語義表達的理論極限類似週期表——儘管無限多種語義形式在邏輯上可能，但僅有有限、物理上可實現的集合具實用價值。