[논문 리뷰] Finite-State Dimension and Lossy Decompressors

David Doty, Philippe Moser|arXiv (Cornell University)|2006. 09. 18.

Computability, Logic, AI Algorithms참고 문헌 20인용 수 12

한 줄 요약

이 논문은 이전에 손실 없는 압축을 통해 정의된 유한 상태 차원이 손실 가능한 유한 상태 복원기(디컴프레서)를 사용함으로써도 동일하게 특징지을 수 있음을 입증한다. 이는 어떤 무한한 수열에 대해 유한 상태 변환기(손실이 있든 없든)가 달성할 수 있는 최적의 복원 비율이 그 수열의 유한 상태 차원과 정확히 일치함을 보여주며, 이는 압축과 복원이 유한 상태 수준에서 정보 손실 여부에 관계없이 동등한 힘을 지닌다는 것을 의미한다.

ABSTRACT

This paper examines information-theoretic questions regarding the difficulty of compressing data versus the difficulty of decompressing data and the role that information loss plays in this interaction. Finite-state compression and decompression are shown to be of equivalent difficulty, even when the decompressors are allowed to be lossy. Inspired by Kolmogorov complexity, this paper defines the optimal *decompression *ratio achievable on an infinite sequence by finite-state decompressors (that is, finite-state transducers outputting the sequence in question). It is shown that the optimal compression ratio achievable on a sequence S by any *information lossless* finite state compressor, known as the finite-state dimension of S, is equal to the optimal decompression ratio achievable on S by any finite-state decompressor. This result implies a new decompression characterization of finite-state dimension in terms of lossy finite-state transducers.

연구 동기 및 목표

• . 이 논문은 유한 상태 차원이 압축이 아닌 복원을 통해 특징지워질 수 있는지 조사한다.
• 손실 가능한 복원기들이 순수한 복원기보다 더 높은 성능을 발휘할 수 있는지 여쭤본다.
• 유한 상태 기계를 이용한 복원을 통해 유한 상태 차원의 새로운 강력한 특징을 설정하는 것이 목표이다.
• 정보 손실이 복원 과정에서 발생하더라도 손실 없는 복원과 비교해 복원 비율을 향상시킬 수 없다는 것을 보이고자 한다.
• 압축과 복원 과정을 모두 연결함으로써 유한 상태 차원에 대한 이해를 통합하고자 한다.

제안 방법

• . 이 논문은 유한 상태 변환기(FST)를 사용하여 수열 S에 대한 최적의 복원 비율 DkFS(S↾n)를 정의한다. 이는 S↾n이라는 접두어를 생성하기 위해 필요한 최소 입력 길이로 정의된다.
• 모든 손실 가능한 FST를 동등한 손실 없는 FST(ILFST)로 변환하는 변환을 도입한다. 이 ILFST는 '정보 손실이 없는 경로'에서 원래의 출력 행동을 유지한다.
• 이 변환은 '단순한 나쁜 쌍'—정보 손실을 일으키는 경로—를 제거하기 위해 전이를 재방향화함으로써, 중요한 경로에서의 단사성(일대일 대응)을 유지하는 클로닝 기법을 사용한다.
• 이 논문은 임의의 손실 가능한 FST T에 대해, T가 문자열 x를 출력하기 위해 필요한 최소 입력 길이보다 길지 않은 최소 입력 길이를 갖는 ILFST T′가 존재함을 증명한다.
• 이 증명은 출력 집합의 접미사 자유성과 전이 경로에서의 단순한 나쁜 쌍 개념을 포함한 FST의 구조적 분석에 기반한다.
• DkFS(S↾n)/n의 lim inf와 lim sup가 각각 고전적인 유한 상태 차원과 강한 차원과 동일하다는 것을 입증한다.

실험 결과

연구 질문

• RQ1 . 수열의 유한 상태 차원은 압축이 아닌 유한 상태 변환기를 이용한 복원을 통해 동일하게 특징지워질 수 있는가?
• RQ2 유한 상태 기계에서 손실 가능한 복원을 허용할 경우, 손실 없는 복원보다 더 높은 복원 비율을 달성할 수 있는가?
• RQ3 압축과 복원 사이에 본질적인 비대칭성이 존재하는가? 즉, 손실 가능한 복원기가 손실 없는 것보다 더 뛰어난 성능을 발휘하는가?
• RQ4 모든 손실 가능한 유한 상태 변환기는 복원 효율에 손실 없이 시뮬레이션할 수 있는 손실 없는 변환기로 표현될 수 있는가?
• RQ5 손실 가능한 복원기 모델을 포함하여 복원기 선택에 따라 수열의 유한 상태 차원이 변하지 않는가?

주요 결과

• . 어떤 수열 S에 대해 유한 상태 변환기(손실이 있든 없든)가 달성할 수 있는 최적의 복원 비율은 S의 유한 상태 차원과 정확히 같다.
• . 모든 손실 가능한 유한 상태 변환기 T에 대해, T가 문자열 x를 출력하기 위해 필요한 최소 입력 길이보다 길지 않은 최소 입력 길이를 갖는 손실 없는 유한 상태 변환기 T′가 존재한다.
• . 유한 상태 차원 dimFS(S)는 n→∞일 때 DkFS(S↾n)/n의 하한극한과 같다. 여기서 DkFS(S↾n)는 어떤 FST(손실이 있든 없든)가 S↾n를 출력하기 위해 필요한 최소 입력 길이다.
• . 유한 상태 강한 차원 DimFS(S)는 n→∞일 때 DkFS(S↾n)/n의 상한극한과 같다.
• . 복원기에서 손실을 허용하더라도, 유한 상태 차원의 복원 기반 특징은 여전히 성립한다. 즉, 정보 손실은 복원 효율을 향상시키지 못한다.
• . 이 결과는 유한 상태 차원이 압축과 복원 양쪽 모두에 의해 강력하게 특징지워지며, 두 관점이 통합됨을 의미한다.