[논문 리뷰] Random crossings in dependency trees

Ramon Ferrer‐i‐Cancho|arXiv (Cornell University)|2013. 05. 20.

Natural Language Processing Techniques참고 문헌 16인용 수 9

한 줄 요약

이 논문은 무작위 의존성 트리에서의 교차 수의 기대값을 조사하여, 이가 문장 길이와 정점의 차수의 두 번째 모멘트에 의해 결정됨을 보여준다. 교차 수는 별 모양의 트리에서 최소화되며(교차 수가 0), 선형 트리에서 최대화되며, 이 경우 교차 수는 문장 길이에 대해 제곱적으로 증가한다. 이는 실제 문법 트리가 의존 길이 압력에 의해 교차 수를 최소화한다는 가설을 지지한다.

ABSTRACT

It has been hypothesized that the rather small number of crossings in real syntactic dependency trees is a side-effect of pressure for dependency length minimization. Here we answer a related important research question: what would be the expected number of crossings if the natural order of a sentence was lost and replaced by a random ordering? We show that this number depends only on the number of vertices of the dependency tree (the sentence length) and the second moment about zero of vertex degrees. The expected number of crossings is minimum for a star tree (crossings are impossible) and maximum for a linear tree (the number of crossings is of the order of the square of the sequence length).

연구 동기 및 목표

• 단어 순서를 무작위로 배치했을 때 의존성 트리에서의 기대 교차 수를 결정하기 위해.
• 특히 문장 길이와 정점 차수 분포와 같은 구조적 특성이 교차 수에 어떤 영향을 미치는지 정량화하기 위해.
• 실제 문법 트리의 낮은 교차 수가 의존 길이 최소화의 결과인지 테스트하기 위해.
• 무작위 순서에 따른 교차 수의 이론적 기준을 수립하여 실제 언어 데이터와의 비교를 가능하게 하기 위해.

제안 방법

• 저자는 단어를 정점으로, 문법적 의존 관계를 간선으로 하는 무방향 그래프로 의존성 트리를 모델링한다.
• 정점의 순열이 무작위로 이루어질 경우의 기대 교차 수에 대한 닫힌 형태의 수식을 유도한다.
• 유도 과정은 교차하는 간선의 조합적 분석에 기반하며, 핵심 매개변수로 정점 차수의 두 번째 모멘트를 사용한다.
• 모델은 단어 순서를 균일하게 무작위로 배치하는 것을 전제로 하며, 교차 수는 정점들이 선형으로 배열되었을 때 교차하는 간선 쌍으로 정의된다.
• 분석은 중심 노드가 나머지 모든 노드와 연결된 별 모양 트리와 사슬 구조를 가진 선형 트리를 극단적인 경우로 구분한다.
• 이론적 결과는 부록에서 분석적 유도와 수치적 검증을 통해 검증된다.

실험 결과

연구 질문

• RQ1 무작위 단어 순서에서 의존성 트리의 기대 교차 수는 얼마인가?
• RQ2 기대 교차 수는 문장 길이와 정점 차수 분포에 따라 어떻게 변하는가?
• RQ3 실제 문법 트리는 랜덤 트리보다 현저히 덜 교차하는가? 만약 그렇다면 그 이유는 무엇인가?
• RQ4 별 구조와 선형 구조와 같은 특정 구조적 구성이 기대 교차 수를 최대화 또는 최소화하는가?

주요 결과

• 무작위 의존성 트리에서의 기대 교차 수는 정점 수와 정점 차수의 두 번째 모멘트에만 의존한다.
• 별 모양 트리의 경우, 어떤 순서에서든 두 간선이 교차할 수 없기 때문에 기대 교차 수는 0이다.
• 선형 트리의 경우, 기대 교차 수는 문장 길이 n에 대해 O(n²)로 증가한다.
• 기대 교차 수의 최댓값은 선형 트리에서 발생하고, 최솟값은 별 모양 트리에서 발생한다.
• 이론적 기준은 랜덤 순서에서 관찰된 실제 문법 트리보다 훨씬 더 많은 교차 수를 생성함을 보여준다.
• 결과는 인간 언어에서 의존 길이 최소화가 단어 순서를 제약함으로써 교차 수를 줄이는 데 기여한다는 가설을 지지한다.