[논문 리뷰] SADGA: Structure-Aware Dual Graph Aggregation Network for Text-to-SQL

Ruichu Cai, Jinjie Yuan외 2명|arXiv (Cornell University)|2021. 11. 01.

Topic Modeling인용 수 27

한 줄 요약

SADGA는 전역/로컬 구조 인식 집계와 결합된 통합 이중 그래프 인코더를 도입하여 교차 도메인 Text-to-SQL에서 경쟁력 있는 결과를 낳고 발표 당시 Spider에서 3위에 올랐습니다.

ABSTRACT

The Text-to-SQL task, aiming to translate the natural language of the questions into SQL queries, has drawn much attention recently. One of the most challenging problems of Text-to-SQL is how to generalize the trained model to the unseen database schemas, also known as the cross-domain Text-to-SQL task. The key lies in the generalizability of (i) the encoding method to model the question and the database schema and (ii) the question-schema linking method to learn the mapping between words in the question and tables/columns in the database schema. Focusing on the above two key issues, we propose a Structure-Aware Dual Graph Aggregation Network (SADGA) for cross-domain Text-to-SQL. In SADGA, we adopt the graph structure to provide a unified encoding model for both the natural language question and database schema. Based on the proposed unified modeling, we further devise a structure-aware aggregation method to learn the mapping between the question-graph and schema-graph. The structure-aware aggregation method is featured with Global Graph Linking, Local Graph Linking, and Dual-Graph Aggregation Mechanism. We not only study the performance of our proposal empirically but also achieved 3rd place on the challenging Text-to-SQL benchmark Spider at the time of writing.

연구 동기 및 목표

• 보이지 않는 스키마에 대한 일반화를 다루어 교차 도메인 Text-to-SQL의 일반화를 촉진한다.
• 일관된 그래프 기반 모델을 사용하여 질문 인코딩과 스키마 인코딩 간의 구조적 차이를 제거한다.
• 질문-스키마 연결을 개선하기 위한 구조 인식 이중 그래프 집계 메커니즘을 개발한다.
• SADGA를 Spider 벤치마크에서 평가하고 강력한 베이스라인과 비교한다.

제안 방법

• 질문과 스키마를 각각 그래프로 표현하고(질문-그래프 및 스키마-그래프) 이들 간의 교차 그래프 관계를 구성한다.
• 사전 정의된 관계를 관계 노드로 표현하면서 이중 그래프를 게이트드 그래프 신경망(GGNN)으로 인코딩한다.
• Global Graph Linking을 적용해 질의 노드와 핵심 노드 간의 교차 그래프 어텐션을 계산한다.
• Local Graph Linking을 적용해 이중 그래프에서 질의 노드가 핵심 노드의 이웃에 주목하도록 한다.
• 게이팅이 있는 이중 그래프 집계를 통해 통합된 노드 표현을 생성한다.
• 선택적으로 Relation-Aware Transformer(RAT)와의 통합으로 표현 정렬을 더 향상시키고, 디코더는 LSTM을 통해 트리 구조의 SQL 생성을 따른다.

실험 결과

연구 질문

• RQ1 통일된 이중 그래프 인코딩 프레임워크가 교차 도메인 Text-to-SQL 일반화를 어떻게 개선할 수 있는가?
• RQ2 질문과 스키마 그래프 간의 구조 인식 글로벌/로컬 링킹이 전통적 방법보다 더 나은 질문-스키마 정합을 도출할 수 있는가?
• RQ3 제안된 집계 메커니즘이 더 난해한 SQL 쿼리의 파싱에 미치는 영향은 무엇인가?

주요 결과

• SADGA는 Spider에서 개발/테스트 정확도에서 경쟁력을 갖추고 있으며 SADGA+GAP와 함께 Spider 리더보드에서 3위에 올랐다.
• 구조 인식 이중 그래프 집계가 성능을 향상시키며 특히 Extra-Hard 쿼리에서 더 잘 다루는 것을 시사한다.
• Ablation은 Global/Local Graph Linking과 집계 게이트가 모두 유익하며 이를 제거하면 더 어려운 수준에서 성능이 저하된다.
• BERT-base/BERT-large 또는 GAP를 통합하면 성능이 더욱 향상되며 SADGA+GAP가 강력한 결과를 낸다.
• Global Graph Linking은 질문 단어를 관련 스키마 부분에 정렬하고, Local Graph Linking은 이웃을 통해 잠재적 연관을 포착하여 표면 문자열 매칭을 넘어 올바른 연결을 돕는다.
• 사례 연구는 질문 용어와 스키마 구성 요소 간의 해석 가능한 정합을 보인다.