[論文レビュー] Bisimulation Metrics for Weighted Automata

Borja Balle, Pascale Gourdeau+1 more|arXiv (Cornell University)|Feb 26, 2017

semigroups and automata theory参考文献 15被引用数 6

ひとこと要約

本稿は、遷移行列の共同スペクトル半径から導かれるセミノルムに基づく、重み付き有限オートマトン（WFA）の新たな双模倣（擬）距離を提案する。これはBorealeの線形双模倣を一般化したものであり、連続性解析を可能にし、スペクトル学習における一貫性と収束速度の証明の基盤を提供する。主な結果として、非可約性のもとで $ d_{\beta}(A,\hat{A}) \leq O(\|H - \hat{H}\|_2) $ が成り立つ。

ABSTRACT

We develop a new bisimulation (pseudo)metric for weighted finite automata (WFA) that generalizes Boreale's linear bisimulation relation. Our metrics are induced by seminorms on the state space of WFA. Our development is based on spectral properties of sets of linear operators. In particular, the joint spectral radius of the transition matrices of WFA plays a central role. We also study continuity properties of the bisimulation pseudometric, establish an undecidability result for computing the metric, and give a preliminary account of applications to spectral learning of weighted automata.

研究の動機と目的

• 重み付きオートマトンの行動的擬距離を構築し、Borealeの線形双模倣関係を一般化すること。
• スペクトル法を用いたWFAの近似的な最小化の理論的基盤を確立すること。
• 提案された距離の連続性および計算可能性の性質を分析すること。
• スペクトル学習アルゴリズムにおける一貫性と収束速度の証明における距離の有用性を示すこと。
• 正確な同値性を超えたWFA間の行動的類似度の評価のための枠組みを提供すること。

提案手法

• 固定点方程式を用いて双模倣擬距離を構築し、状態空間上のセミノルムを定義する。この固定点方程式はバナッハの不動点定理に基づく。
• セミノルムは、遷移行列 $ \{\tau_\sigma\}_{\sigma \in \Sigma} $ の共同スペクトル半径を用いて定義され、距離の安定性と連続性を支配する。
• 固定点セミノルムの閉形式表現を導出し、その性質の解析的考察を可能にする。
• 重み付き言語上の距離へとWFA上の距離を昇格させるために、関数的行動 $ f_A(x) = \beta(\tau_x(\alpha)) $ を用いる。
• ジャガーらの定義と本稿で新たに開発した2つの連続性の概念を用いて、距離の連続性を確立する。
• Hankel行列間の $ \ell_2 $-距離 $ \|H - \hat{H}\|_2 $ と $ \gamma $-双模倣距離 $ d_\gamma(A, \hat{A}) $ の関係を用いて、理論的収束バウンドを導出する。

実験結果

リサーチクエスチョン

• RQ1 WFAの行動的擬距離を、Borealeの線形双模倣を一般化し、近似的な最小化を可能にする形でどのように構築できるか。
• RQ2 遷移行列のどのスペクトル的性質が、提案された双模倣距離の挙動と連続性を支配するか。
• RQ3 双模倣距離は決定可能か。その計算可能性の限界は何か。
• RQ4 距離は、誤差バウンドの観点からスペクトル学習アルゴリズムの収束性とどのように関係するか。
• RQ5 距離を用いて、データからのWFA学習における一貫性と収束速度を確立できるか。

主な発見

• 双模倣擬距離は、遷移行列の共同スペクトル半径から導かれるセミノルムによって誘導され、安定性と連続性を保証する。
• 固定点セミノルムの閉形式表現が提供され、その性質の深い分析が可能になる。
• オートマトンパラメータの摂動に対して距離が連続であり、スペクトル半径と関連した局所リプシッツ性を示す。
• 本稿では、正確な双模倣距離の計算が決定不能であることを証明し、固有の計算限界を強調する。
• 非可約WFAに対しては、$ \|H - \hat{H}\|_2 \to 0 $ のとき $ d_\gamma(A, \hat{A}) \leq O(\|H - \hat{H}\|_2) $ が成り立ち、スペクトル学習の収束速度を確立する。
• 距離はスペクトル学習と一貫している：訓練データが増加するにつれ、$ \hat{A} \to A $ が $ d_\gamma $ で成り立ち、無限文字列に対しても誤差バウンドが空虚でない。これは $ \ell_1 $-ベースの誤差測度とは対照的である。