[논문 리뷰] The Generation-Recognition Asymmetry: Six Dimensions of a Fundamental Divide in Formal Language Theory

Romain Peyrichou|arXiv (Cornell University)|2026. 03. 10.

Natural Language Processing Techniques인용 수 0

한 줄 요약

본 논문은 문법이 문자열을 생성하는 방식과 이를 파싱하는 방식 간의 여섯 차원 비대칭으로 생성, 인식, 추론을 다루며, 복잡도, 모호성, 방향성, 정보, 문법 추론, 그리고 시간성을 분석한다.

ABSTRACT

Every formal grammar defines a language and can in principle be used in three ways: to generate strings (production), to recognize them (parsing), or -- given only examples -- to infer the grammar itself (grammar induction). Generation and recognition are extensionally equivalent -- they characterize the same set -- but operationally asymmetric in multiple independent ways. Inference is a qualitatively harder problem: it does not have access to a known grammar. Despite the centrality of this triad to compiler design, natural language processing, and formal language theory, no survey has treated it as a unified, multidimensional phenomenon. We identify six dimensions along which generation and recognition diverge: computational complexity, ambiguity, directionality, information availability, grammar inference, and temporality. We show that the common characterization "generation is easy, parsing is hard" is misleading: unconstrained generation is trivial, but generation under constraints can be NP-hard. The real asymmetry is that parsing is always constrained (the input is given) while generation need not be. Two of these dimensions -- directionality and temporality -- have not previously been identified as dimensions of the generation-recognition asymmetry. We connect the temporal dimension to the surprisal framework of Hale (2001) and Levy (2008), arguing that surprisal formalizes the temporal asymmetry between a generator (surprisal = 0) and a parser that predicts under uncertainty (surprisal > 0). We review bidirectional systems in NLP and observe that bidirectionality has been available for fifty years yet has not transferred to most domain-specific applications. We conclude with a discussion of large language models, which architecturally unify generation and recognition while operationally preserving the asymmetry.

연구 동기 및 목표

• 생성과 인식이 다르게 작동하는 여섯 개의 독립 차원을 식별한다.
• 추론을 세 번째 축으로 포함시켜 비대칭을 심화한다.
• 구조적 제약을 강조함으로써 생성이 쉽고 파싱이 어렵다는 단순한 관점을 도전한다.
• 비전 각성 이론(surprisal theory)을 비대칭의 시간적 차원과 연결한다.
• 양방향 시스템을 조사하고 도메인 특화 문법으로의 전달이 제한적인 이유를 설명한다.
• counter-arguments를 다루고 대형 언어 모델에 대한 시사점을 논의한다.

제안 방법

• 생성, 인식, 추론을 형식 문법 내에서 정의하고 확장적 등가성과 작동상의 비대칭성을 명시한다.
• formal arguments와 실행 예제를 바탕으로 여섯 차원(D1–D6)의 비대칭을 개발한다.
• 샤논 정보 이론, 촘스키 계층, 모리스의 기호학 프레임워크를 융합하여 분석의 기반을 마련한다.
• 도메인 간의 방향성 및 비대칭을 설명하기 위해 분석적, 생성적, 양방향 시스템을 조사한다.
• 문법 클래스 및 작업 유형 전반에 걸친 생성과 인식의 차이를 대조하는 복잡도 히트맵을 제시한다.
• NLP 시스템의 양방향성에 대해 논의하고 도메인 특화 적용에서 양방향 문법의 채택이 제한적인 이유를 평가한다.

실험 결과

연구 질문

• RQ1 형식 문법에서 생성과 인식 사이의 작동적 발산을 특징짓는 여섯 차원은 무엇인가?
• RQ2 추론(문법 유도)이 생성-인식 비대칭을 어떻게 확장하고 심화하는가?
• RQ3 정보 이론, 구문 복잡도, 기호학이 서로 다른 도메인에서 비대칭을 어떻게 밝히는가?
• RQ4 양방향 문법이 비대칭을 완화할 수 있는 조건은 무엇이며 도메인 간 채택이 불균등한 이유는 무엇인가?
• RQ5 이 여섯 차원이 대형 언어 모델의 생성-인식 상호작용에 주는 시사점은 무엇인가?

주요 결과

• 생성은 보편적으로 쉽게 이루어지지 않는다; 제약된 생성은 작업과 문법 표현력에 따라 파싱만큼 어렵게 될 수 있다.
• 인식의 복잡도는 문법의 표현력 증가에 따라 증가하며, 작업 유형과 문법 유형에 따라 선형에서 결정 불가능에 이르는 다양한 복잡도 계층으로 이어진다.
• 방향성, 시간성, 그리고 새로 식별된 두 차원(D3 및 D6)이 비대칭을 형성하고 파싱 전략 및 surprisal 이론과 연결된다.
• 양방향 문법 시스템은 존재하지만(예: GF, DCG, KAMP) 선언적 요구사항과 계산 비용으로 인해 도메인 한정적이다.
• 추론(문법 유도)은 가장 어려운 축을 나타내며 단일 시스템에서 생성이나 인식과 자주 결합되지 않아 기본적인 제3차원을 강조한다.
• 대형 언어 모델은 생성과 인식을 구조상 하나로 통합하는 경향을 보이나 작동상의 비대칭은 여전히 유지된다.