[論文レビュー] The Minimal Compression Rate for Similarity Identification

Amir Ingber, Tsachy Weissman|arXiv (Cornell University)|Dec 7, 2013

Algorithms and Data Compression参考文献 35被引用数 11

ひとこと要約

本稿は、偽陰性を許さない制約のもとで、データベース内の類似シーケンスを信頼性高く識別するための最小圧縮レートを確立する。これは、ロスレス署名を用いたものである。i.i.d. サイズのソースに対して、最小レートが単一記号の情報量によって決定されることを証明し、このタスクに対してはロスイェー圧縮に基づく手法が一般に劣っていることを示している。

ABSTRACT

Traditionally, data compression deals with the problem of concisely representing a data source, e.g. a sequence of letters, for the purpose of eventual reproduction (either exact or approximate). In this work we are interested in the case where the goal is to answer similarity queries about the compressed sequence, i.e. to identify whether or not the original sequence is similar to a given query sequence. We study the fundamental tradeoff between the compression rate and the reliability of the queries performed on compressed data. For i.i.d. sequences, we characterize the minimal compression rate that allows query answers, that are reliable in the sense of having a vanishing false-positive probability, when false negatives are not allowed. The result is partially based on a previous work by Ahlswede et al., and the inherently typical subset lemma plays a key role in the converse proof. We then characterize the compression rate achievable by schemes that use lossy source codes as a building block, and show that such schemes are, in general, suboptimal. Finally, we tackle the problem of evaluating the minimal compression rate, by converting the problem to a sequence of convex programs that can be solved efficiently.

研究の動機と目的

• 偽陰性が許されないデータベース内の類似性照会のための圧縮レートの根本的限界を特定すること。
• i.i.d. サイズの仮定のもとで、偽陽性確率が消失するようにする最小圧縮レートを特徴づけること。
• 類似性識別に用いるロスイェー源符号化に基づく手法の性能を評価し、それらが本質的に劣っていることを示すこと。
• 凸計画法を用いて最小圧縮レートを効率的に評価するための計算効率の良い手法を開発すること。

提案手法

• 類似性照会を圧縮データ上でモデル化する情報理論的枠組みを用い、署名を元のシーケンスの圧縮表現とみなす。
• 本質的に典型集合の補題を適用して逆方向の境界を導出し、導出された圧縮レートのタイトネスを証明する。
• 最小圧縮レートを、相互情報量と発散制約を含む単一記号の最適化問題として特徴づける。
• 最適化問題を一連の凸プログラムに変換することで、効率的な計算を可能にする。
• ロスイェー源符号化手法が、情報理論的境界から導かれた最小レートに到達できないことを示すことにより、それらがこのタスクにおいて一般に劣っていることを証明する。
• 関数行列に重複または定数行を含まない関数クラス F' を導入し、このような関数が最適性能を達成するのに十分であることを証明する。

実験結果

リサーチクエスチョン

• RQ1 偽陰性を許さない類似性識別が可能な最小圧縮レートは何か？
• RQ2 最小圧縮レートは類似度のしきい値とソース分布にどのように依存するか？
• RQ3 ロスイェー源符号化手法は、類似性識別に最適な圧縮レートに到達できるか？
• RQ4 最小圧縮レートを評価する際の計算複雑度は何か？また、凸計画法に低減可能か？
• RQ5 圧縮方式で用いられる関数クラスに、最適性を保ちながら構造的簡略化が可能か？

主な発見

• 偽陰性を許さない類似性識別に必要な最小圧縮レートは、単一記号の情報量によって特徴づけられ、具体的には発散制約の下での最小相互情報量である。
• この最小レートは、ロスイェー源符号化手法が達成可能なレートよりも厳密に高いことが示され、このような手法が一般にこのタスクにおいて劣っていることを証明する。
• 最小レートの計算問題は、一連の凸プログラムを解くことに低減可能であり、効率的な数値評価が可能になる。
• 逆方向の証明は、誤り確率をバウンドし、レート領域のタイトネスを確立する上で中心的な役割を果たす本質的に典型集合の補題に依存している。
• 関数行列の表現に重複または定数行を含む任意の関数は、最適性を損なわず、制限付きクラス F' に属する同等の関数に置き換え可能であることが示された。
• 最適な圧縮方式では、シーケンス長に比例して署名サイズが増大し、そのレートはソースと圧縮署名の間の相互情報量によって決定される。