[논문 리뷰] Learning rational stochastic languages

François Denis, Yann Esposito외 1명|arXiv (Cornell University)|2006. 02. 17.

Machine Learning and Algorithms참고 문헌 10인용 수 6

한 줄 요약

이 논문은 확률적 자동기(PA)를 엄밀히 일반화하는 다중성 자동기(MA)를 사용하여 유리 확률 언어를 효율적으로 학습하는 알고리즘 DEES를 제안한다. 목표 클래스가 비재귀적으로 열거 가능한 성질을 지닌다 해도, DEES는 ℚ 위에서 유리 확률 언어를 한계에서 강하게 식별하며, 절대 수렴하는 유리 급수를 정의하는 중간 MA를 생성함으로써 정규화를 통해 유효한 확률 분포를 얻을 수 있는 정확한 확률 언어 추정이 가능하다.

ABSTRACT

Given a finite set of words w1,...,wn independently drawn according to a fixed unknown distribution law P called a stochastic language, an usual goal in Grammatical Inference is to infer an estimate of P in some class of probabilistic models, such as Probabilistic Automata (PA). Here, we study the class of rational stochastic languages, which consists in stochastic languages that can be generated by Multiplicity Automata (MA) and which strictly includes the class of stochastic languages generated by PA. Rational stochastic languages have minimal normal representation which may be very concise, and whose parameters can be efficiently estimated from stochastic samples. We design an efficient inference algorithm DEES which aims at building a minimal normal representation of the target. Despite the fact that no recursively enumerable class of MA computes exactly the set of rational stochastic languages over Q, we show that DEES strongly identifies tis set in the limit. We study the intermediary MA output by DEES and show that they compute rational series which converge absolutely to one and which can be used to provide stochastic languages which closely estimate the target.

연구 동기 및 목표

• 확률적 자동기(PA)에 의해 생성되는 전체 스토케스틱 언어 클래스에 대한 효율적인 추론 알고리즘이 부족한 문제를 해결하기 위해.
• 특히 유리 매개변수에 대해 더 표현력 있고 압축된 표현으로 다중성 자동기(MA)를 사용하는 것의 가능성을 탐색하기 위해.
• 클래스가 재귀적으로 열거 가능하지 않은 경우에도 최소 정규 표현을 학습할 수 있는 알고리즘을 설계하기 위해.
• 중간 가설의 수렴성과 정확성에 대한 이론적 보장을 제공하기 위해, 특히 그것들이 비스토케스틱적 성질을 지닌다 해도.
• 중간 MA 출력이 정규화 기법을 통해 목표 언어에 대해 오차가 제한된 유효한 스토케스틱 언어로 변환될 수 있음을 보여주기 위해.

제안 방법

• DEES는 스토케스틱 샘플에서 파라미터를 추정함으로써 목표 유리 스토케스틱 언어의 최소 정규 표현을 반복적으로 구축하는 학습 과정을 사용한다.
• 알고리즘은 체 ℚ 위의 유리 급수에 대해 선형 대수 기법을 활용하며, 유리 급수의 벡터 공간 구조를 이용해 효율적인 파라미터 추정을 수행한다.
• DEES는 목표 언어와 일치하도록 구조와 파라미터가 변화하는 가설 MA를 유지하며, 관측된 단어 빈도와 접두사 기반 확률 추정에 기반해 가설을 갱신한다.
• 중간 MA 출력은 $ p_r(u) = \lambda_u r(u) $ 형태의 변환을 통해 정규화되며, $ u \notin N $ 인 경우에 해당되며, $ N $ 은 $ r(u) < 0 $ 인 단어들의 집합이다. 이는 $ p_r $ 가 유효한 스토케스틱 언어임을 보장한다.
• 정규화 인자 $ \lambda_u $ 는 $ u $ 의 이웃에서의 음성 기여의 합에서 유도되며, $ p_r $ 이 확률 분포로 남아 있도록 보장한다.
• 알고리즘은 학습이 진행됨에 따라 총 음성 가중치 $ N_r = \sum_{r(u)<0} |r(u)| $ 가 0으로 수렴하도록 보장하여, 목표 분포로의 수렴을 확보한다.

실험 결과

연구 질문

• RQ1 비재귀적으로 열거 가능한 클래스임에도 불구하고, ℚ 위에서 유리 스토케스틱 언어를 한계에서 효율적으로 식별할 수 있는 학습 알고리즘이 존재하는가?
• RQ2 스토케스틱 언어로 정의되지 않는 중간 가설의 품질에 대해 어떤 보장을 제공할 수 있는가?
• RQ3 중간 MA가 계산한 유리 급수는 목표 언어에 대해 오차가 제한된 유효한 스토케스틱 언어로 변환될 수 있는가?
• RQ4 MA에서의 최소 정규 표현 사용이 표준 PA에 비해 샘플 효율성과 정확도를 어떻게 향상시키는가?
• RQ5 파라미터 추정의 수렴 성질과 유리 급수의 절대 수렴성은 실무에서 신뢰할 수 있는 추론을 보장하는 데 어느 정도 기여하는가?

주요 결과

• DEES는 한계에서 클래스 $ \mathcal{S}_{\mathbb{Q}}^{rat}(\Sigma) $ 를 강하게 식별하며, ℚ 위의 임의의 목표 유리 스토케스틱 언어에 대해 정확한 최소 정규 표현으로 수렴한다.
• DEES가 생성한 중간 MA는 모든 단어에 대해 1로 절대 수렴하는 유리 급수를 계산하며, 이는 모든 단어에 대해 잘 정의되고 모호하지 않은 확률 값을 보장한다.
• 학습이 진행됨에 따라 중간 급수의 총 음성 가중치 $ N_r = \sum_{r(u)<0} |r(u)| $ 는 0으로 수렴하며, 이는 가설이 유효한 스토케스틱 언어에 점점 더 가까워지고 있음을 나타낸다.
• 정규화된 출력 $ p_r $ 는 모든 $ r(u) > 0 $ 인 $ u $ 에 대해 $ e^{r(N)/\overline{r}} \leq p_r(u)/r(u) \leq 1 $ 을 만족하며, 상대 오차에 대해 날카운 다중 bound를 제공한다.
• 알고리즘은 다항 시간 내에 실행되며, 전통적인 통계적 수렴 속도로 파라미터를 추정하므로 실용적이고 효율적인 실세계 문법 추론 작업에 적합하다.
• 실험 결과는 DEES가 최소화되고 자연스러운 표현을 중시함으로써 고전적 확률 추론 알고리즘보다 뛰어난 성능을 보임을 확인한다. 이는 $ u\Sigma^* $ 와 같은 기저 확률 사건과의 일치를 반영한다.