[論文レビュー] Learning Product Automata

Joshua Moerman|arXiv (Cornell University)|May 8, 2017

Machine Learning and Algorithms被引用数 3

ひとこと要約

本稿では、多観測出力を持つモア・マシンを積形式自動機に分解することで、アクティブなオートマトン学習の最適化を提案する。各観測出力を別々に学習することで、構造的分解を活用し、クエリの複雑性を低減する。合成ベンチマークでの実験により、同等性クエリとメンバーシップクエリが桁違いに削減され、複合的挙動を示す複雑なソフトウェアシステムの学習におけるスケーラビリティの向上が顕著に示された。

ABSTRACT

In this paper we give an optimization for active learning algorithms, applicable to learning Moore machines where the output comprises several observables. These machines can be decomposed themselves by projecting on each observable, resulting in smaller components. These components can then be learnt with fewer queries. This is in particular interesting for learning software, where compositional methods are important for guaranteeing scalability.

研究の動機と目的

• 複数の出力を有する複雑なソフトウェアシステムのアクティブなオートマトン学習におけるスケーラビリティのボトル neck を解消すること。
• 出力観測子に基づいて、モア・マシンの構成的構造を分解し、独立したコンポonentに分離すること。
• 特に高次元の状態空間を有するシステムにおいて、同等性クエリおよびメンバーシップクエリの数を削減すること。
• 既存の学習アルゴリズム（例：L*）に実用的かつプラグイン互換性を持つ拡張を提供し、積形式自動機の学習を可能とすること。
• 特にコンポーネントがほぼ独立している場合に、この分解手法の有効性を実世界および合成ソフトウェアモデルにおいて実証すること。

提案手法

• 本手法は、出力が $O_1 \times O_2$ であるモア・マシンを、それぞれ出力が $O_1$ および $O_2$ である2つのコンポーネントマシン $M_1$ および $M_2$ に分解し、元のマシンがその積 $M_1 \times M_2$ と等価になるようにする。
• 各コンポーネントマシンに対して、射影関数 $\pi_i$ を用いて関連する出力トレースを抽出することで、アクティブな学習（例：L*）を独立して適用する。
• 各コンポーネントに対して別個の仮説を維持し、全積の整合性を同等性クエリを用いて検証するための積構成を用いる。
• コンポーネントが独立している場合、コンポーネントの総状態数は最良ケースで $2\sqrt{|M|}$ となり、$|M|$ よりも著しく少ないことが利点である。
• 制約付き出力集合の検出のため、積仮説における到達可能性チェックを実施し、許可された $O_1 \times O_2$ の部分集合に属さない不正な出力の組合せを検出可能にすることで、教師の協力なしに自己診断が可能になる。
• L*アルゴリズムを変更して、コンポーネントの学習と積の検証を交互に実行するようにし、全体のクエリコストを低減する。

実験結果

リサーチクエスチョン

• RQ1 多観測出力を持つモア・マシンを独立したコンポーネントに分解することで、アクティブなオートマトン学習におけるクエリ数を削減できるか？
• RQ2 クエリ効率およびスケーラビリティの観点から、積形式自動機のコンポーネント別学習は、モノリシック学習に比べてどの程度有効か？
• RQ3 コンポーネントの独立性が、分解に基づく学習手法の性能に及ぼす影響は何か？
• RQ4 特定の出力組合せが禁止されている制約付き出力集合に対しても、本手法を拡張可能か？
• RQ5 ソフトウェアモデル学習において、本手法は逆オートマトン構築などの他の構造的最適化を上回る性能を示すか？

主な発見

• 7ビットレジスタマシンでは、積学習器により同等性クエリが13,000以上から22にまで削減され、モノリシック学習と比較して99％以上も削減された。
• 2048状態を持つ $M_8$ マシンでは、積学習器が同等性クエリ3,289件およびメンバーシップクエリ41,732件を要したが、TTT学習器は160,000件以上を要しており、クエリコストは90％以上削減された。
• 最良ケースでは、状態空間のサイズが $n \cdot 2^n$ から $2\sqrt{n \cdot 2^n}$ にまで削減され、理論的複雑性において指数的改善が示された。
• $\text{mark1}$ サーキットモデルでは、コンポーネント学習を用いることで同等性クエリが70％、メンバーシップクエリが80％以上削減された。
• 主な性能向上は、コンポーネントがほぼ独立している場合に顕著に観察された。$\text{keyb}$ や $\text{ex3}$ のような密結合システムでは改善が限定的であったため、依存性が重要な要因であることが示された。
• 積仮説における不正な出力組合せの検出により、自己診断が可能になり、教師からの反例依存度が低下した。