[論文レビュー] The Synthesis and Analysis of Stochastic Switching Circuits

Hongchao Zhou, Po‐Ling Loh+1 more|arXiv (Cornell University)|Sep 4, 2012

DNA and Biological Computing参考文献 15被引用数 9

ひとこと要約

本稿では、有理数確率を持つpswitchを用いた確率的スイッチング回路の耐障害性、表現力、および近似性能について調査する。単純な直列並列（ssp）回路は小さな誤差摂動に対して耐障害性を示すが、一般の直列並列回路はそうではないことが示され、また、q が 2 または 3 の倍数であるとき、分母が $ q^n $ である任意の有理数確率をssp回路で正確に合成可能であることが確立されている。一方、q が 3 より大きな素数である場合には合成不可能である。さらに、回路サイズの増加に伴い誤差が指数関数的に減少するように設計されたグリーディー局所最適化アルゴリズムが提案されている。

ABSTRACT

Stochastic switching circuits are relay circuits that consist of stochastic switches called pswitches. The study of stochastic switching circuits has widespread applications in many fields of computer science, neuroscience, and biochemistry. In this paper, we discuss several properties of stochastic switching circuits, including robustness, expressibility, and probability approximation. First, we study the robustness, namely, the effect caused by introducing an error of size εto each pswitch in a stochastic circuit. We analyze two constructions and prove that simple series-parallel circuits are robust to small error perturbations, while general series-parallel circuits are not. Specifically, the total error introduced by perturbations of size less than εis bounded by a constant multiple of εin a simple series-parallel circuit, independent of the size of the circuit. Next, we study the expressibility of stochastic switching circuits: Given an integer q and a pswitch set S=\{\frac{1}{q},\frac{2}{q},...,\frac{q-1}{q}\}, can we synthesize any rational probability with denominator q^n (for arbitrary n) with a simple series-parallel stochastic switching circuit? We generalize previous results and prove that when q is a multiple of 2 or 3, the answer is yes. We also show that when q is a prime number larger than 3, the answer is no. Probability approximation is studied for a general case of an arbitrary pswitch set S=\{s_1,s_2,...,s_{|S|}\}. In this case, we propose an algorithm based on local optimization to approximate any desired probability. The analysis reveals that the approximation error of a switching circuit decreases exponentially with an increasing circuit size.

研究の動機と目的

• pswitch確率における小さな誤差摂動に対する確率的スイッチング回路の耐障害性を分析すること。
• 与えられたpswitch集合 $ S = \{\frac{1}{q}, \frac{2}{q}, \dots, \frac{q-1}{q}\} $ を用いた単純直列並列（ssp）回路で正確に合成可能な確率の集合を特定すること。
• 最小の回路サイズと低い誤差で任意のターゲット確率を近似するための効率的なアルゴリズムを開発すること。
• ssp回路が高精度な確率合成または近似を達成できる条件を理解すること。

提案手法

• 個々のpswitchの摂動が大きさ $ \epsilon $ である場合の直列並列回路における誤差伝播を分析し、ssp回路が回路サイズに依存しない定数倍の $ \epsilon $ で誤差が制限されることを示した。
• 数学的帰納法と再帰的回路構成を用いて、q が 2 または 3 で割り切れる場合、回路の閉じる確率 $ P(C) $ の閉包性に基づき、ssp回路が任意の有理数確率 $ \frac{a}{q^n} $ を実現できることを証明した。
• 各ステップで近似誤差を最小化するように2つのpswitchを挿入するグリーディー局所最適化アルゴリズムを提案した。挿入ルールは現在の確率推定値とpswitch集合 $ S $ に基づく。
• 再帰的誤差関数を用いて誤差の上界を導出し、特に $ m=2 $ 個の挿入に対して、回路サイズ $ n $ の増加に伴い誤差が指数関数的に減少することを示した。
• 特定のケース、例えば $ S = \{\frac{1}{5}, \frac{2}{5}, \frac{3}{5}, \frac{4}{5}\} $ に適用し、5個のpswitchを用いた回路で $ \left| \frac{3}{7} - 0.4278 \right| = 7.3 \times 10^{-4} $ の誤差を達成した。
• 数学的帰納法とケース解析を用いて、誤差低減要因が各ステップで最大 $ \Delta(1 - \Delta) $ であることを証明した。ここで $ \Delta = \frac{1}{q} $ であり、これにより誤差が指数関数的に減少することが導かれる。

実験結果

リサーチクエスチョン

• RQ1 確率的スイッチング回路がpswitch確率における小さな摂動に対して耐障害性を示す条件は何か？
• RQ2 与えられたpswitch集合 $ S = \{\frac{1}{q}, \frac{2}{q}, \dots, \frac{q-1}{q}\} $ に対して、単純直列並列回路で正確に合成可能な有理数確率はどのようなものか？
• RQ3 一般のpswitch集合を用いて、任意の所望の確率を低誤差かつ小回路複雑度で近似可能か？
• RQ4 グリーディー構成アルゴリズムを用いた場合、近似誤差は回路サイズにどのように依存するか？
• RQ5 任意のpswitch集合に対して、確率的スイッチング回路の近似精度の理論的限界は何か？

主な発見

• 単純直列並列（ssp）回路は小さな誤差摂動に対して耐障害性を示す：個々のpswitchの誤差が大きさ $ \epsilon $ である場合、総誤差は回路サイズに依存しない定数倍の $ \epsilon $ で制限される。
• 一般の直列並列回路は耐障害性を示さない。小さな個々の摂動であっても、誤差が回路サイズに応じて蓄積され、増大する可能性がある。
• q が 2 または 3 の倍数である場合、分母が $ q^n $ である任意の有理数確率 $ \frac{a}{q^n} $ を、$ S = \{\frac{1}{q}, \frac{2}{q}, \dots, \frac{q-1}{q}\} $ のpswitchを用いたssp回路で正確に合成可能である。
• q が 3 より大きな素数である場合、このような確率をすべて合成することは不可能であり、表現力に根本的な制限があることが示された。
• m=2 個の挿入を用いたグリーディーアルゴリズムは、近似誤差の上界が $ \frac{\Delta}{2} \left( \Delta(1 - \Delta) \right)^{\lceil n/2 \rceil - 1} $ であることを示し、回路サイズ $ n $ の増加に伴い誤差が指数関数的に減少することがわかった。
• 具体的な例として $ S = \{\frac{1}{5}, \frac{2}{5}, \frac{3}{5}, \frac{4}{5}\} $ を用い、5個のpswitchを有する回路で $ \frac{3}{7} $ を $ 0.4278 $ に近似し、誤差はわずか $ 7.3 \times 10^{-4} $ に留まった。これにより、アルゴリズムの高い精度が確認された。