[논문 리뷰] Grammar-Aware Question-Answering on Quantum Computers.

Konstantinos Meichanetzidis, Alexis Toumi외 2명|arXiv (Cornell University)|2020. 12. 07.

Quantum Computing Algorithms and Architecture참고 문헌 44인용 수 24

한 줄 요약

이 논문은 노이지 중간 규모 양자(NISQ) 하드웨어에서 어법 인식 질문-답변 시스템의 첫 번째 구현을 제시한다. 여기서 단어 의미는 파라미터화된 양자 회로를 통해 인코딩되고, 얽힘 연산을 통해 문법적 구조를 명시적으로 표현한다. 이 접근법은 향후 양자 우월성 가능성이 있는 스케일러블하고 NISQ에 적합한 양자 자연어 처리를 위한 프레임워크를 제공한다.

ABSTRACT

Natural language processing (NLP) is at the forefront of great advances in contemporary AI, and it is arguably one of the most challenging areas of the field. At the same time, with the steady growth of quantum hardware and notable improvements towards implementations of quantum algorithms, we are approaching an era when quantum computers perform tasks that cannot be done on classical computers with a reasonable amount of resources. This provides a new range of opportunities for AI, and for NLP specifically. Earlier work has already demonstrated a potential quantum advantage for NLP in a number of manners: (i) algorithmic speedups for search-related or classification tasks, which are the most dominant tasks within NLP, (ii) exponentially large quantum state spaces allow for accommodating complex linguistic structures, (iii) novel models of meaning employing density matrices naturally model linguistic phenomena such as hyponymy and linguistic ambiguity, among others. In this work, we perform the first implementation of an NLP task on noisy intermediate-scale quantum (NISQ) hardware. Sentences are instantiated as parameterised quantum circuits. We encode word-meanings in quantum states and we explicitly account for grammatical structure, which even in mainstream NLP is not commonplace, by faithfully hard-wiring it as entangling operations. This makes our approach to quantum natural language processing (QNLP) particularly NISQ-friendly. Our novel QNLP model shows concrete promise for scalability as the quality of the quantum hardware improves in the near future.

연구 동기 및 목표

• 근접한 양자 하드웨어에서 자연어 처리 작업을 구현할 수 있는지 탐색하기 위해.
• 기존의 양자 NLP 접근법에서 문법적 구조 모델링의 부족을 해결하기 위해.
• 노이지 중간 규모 양자(NISQ) 장치와 호환되는 양자 NLP 모델을 설계하기 위해.
• 언어적 구조의 명시적 인코딩을 통해 양자 우월성이 NLP에서 실현될 수 있음을 보여주기 위해.
• 어법을 양자 회로 설계에 통합하여 스케일러블한 양자 NLP의 기반을 마련하기 위해.

제안 방법

• 문장을 파라미터화된 양자 회로로 구현하며, 단어는 양자 상태로 인코딩된다.
• 문법적 구조는 문법적 의존성에 해당하는 얽힘 연산을 하드웨어로 구현하여 명시적으로 모델링된다.
• 단어 의미는 진폭 인코딩 또는 유사 기법을 사용하여 양자 상태에 인코딩된다.
• 양자 시스템의 큰 상태 공간을 활용하여 모호성과 하위관계와 같은 복잡한 언어 현상을 표현한다.
• 현재 NISQ 시대의 양자 프로세서에 적합하고 노이즈에 강건한 방식으로 설계된다.
• 현재 하드웨어 제약 조건을 고려해 게이트 수와 깊이를 최소화하기 위해 양자 회로가 최적화된다.

실험 결과

연구 질문

• RQ1 현재의 노이지 중간 규모 양자 하드웨어에서 어법 인식 자연어 처리를 어떻게 실행할 수 있는가?
• RQ2 어떤 방식으로 양자 회로에 문법적 구조를 충실하게 인코딩하여 NLP 성능을 향상시킬 수 있는가?
• RQ3 순수하게 의미 중심 접근법에 비해 어법 인코딩의 명시적 표현이 양자 NLP에서 어떤 이점을 제공하는가?
• RQ4 양자 상태 공간이 모호성과 하위관계와 같은 언어 현상을 얼마나 잘 모델링할 수 있는가?
• RQ5 양자 하드웨어의 정밀도와 큐비트 수가 향상됨에 따라 이 접근법은 얼마나 스케일러블한가?

주요 결과

• 제안된 QNLP 모델은 NISQ 하드웨어에서 어법 인식 질문-답변를 성공적으로 구현하였으며, 이는 첫 번째 such 시연이다.
• 얽힘 연산을 통한 문법적 구조의 명시적 인코딩이 모델의 표현력과 NISQ 호환성 향상에 기여한다.
• 양자 상태 공간의 사용은 모호성과 하위관계와 같은 언어 현상을 자연스럽게 모델링할 수 있게 한다.
• 이 접근법은 양자 하드웨어의 품질과 코herence 향상에 따라 확장 가능하도록 설계되었다.
• 이 모델은 종종 고전적 NLP에서 간과되는 문법적 구조를 양자 NLP에 통합할 수 있는 실현 가능한 길을 보여준다.
• 특히 검색 및 분류 작업에서 향후 양자 우월성이 실현될 수 있음을 보여주는 잠재력을 지닌다.