[논문 리뷰] AliCG: Fine-grained and Evolvable Conceptual Graph Construction for Semantic Search at Alibaba

Ningyu Zhang, Qianghuai Jia외 9명|arXiv (Cornell University)|2021. 06. 03.

Advanced Text Analysis Techniques참고 문헌 29인용 수 5

한 줄 요약

AliCG는 알리바바에서 의미 검색을 위한 세분화되고 진화 가능한 개념 그래프 프레임워크를 제안하며, 정렬 공감과 저자원 어휘 추출을 통한 부트스트랩핑을 활용해 노이즈가 많은 검색 로그에서 희귀하고 동적인 개념을 추출하고, 사용자 행동 모델링을 통해 실시간으로 분류 체계를 업데이트할 수 있도록 한다. 온라인 A/B 테스트 결과, 일일 3억 건 이상의 요청을 처리하는 알리바바 UC 브라우저에서 CTR가 5.1% 향상되었고 인상 효율성이 7.01% 향상되었다.

ABSTRACT

Conceptual graphs, which is a particular type of Knowledge Graphs, play an essential role in semantic search. Prior conceptual graph construction approaches typically extract high-frequent, coarse-grained, and time-invariant concepts from formal texts. In real applications, however, it is necessary to extract less-frequent, fine-grained, and time-varying conceptual knowledge and build taxonomy in an evolving manner. In this paper, we introduce an approach to implementing and deploying the conceptual graph at Alibaba. Specifically, We propose a framework called AliCG which is capable of a) extracting fine-grained concepts by a novel bootstrapping with alignment consensus approach, b) mining long-tail concepts with a novel low-resource phrase mining approach, c) updating the graph dynamically via a concept distribution estimation method based on implicit and explicit user behaviors. We have deployed the framework at Alibaba UC Browser. Extensive offline evaluation as well as online A/B testing demonstrate the efficacy of our approach.

연구 동기 및 목표

• 공식 텍스트에서만 추출 가능한 굵은 개념에 국한된 기존 개념 그래프의 한계를 해결한다.
• 노이즈가 많고 짧으며 자원이 부족한 검색 쿼리에서 세분화되고 긴 꼬리 개념을 추출할 수 있도록 한다.
• 암시적이고 명시적인 사용자 행동을 기반으로 개념 분류 체계의 동적 진화를 지원한다.
• 스케일링 가능하고 프로덕션 환경에 적합한 개념 그래프 시스템을 구현하여 실제 응용 분야에서 의미 검색과 후속 NLP 작업을 향상시킨다.
• 진화하는 고세분화 개념을 통해 미묘한 사용자 의도를 포착함으로써 검색 엔진의 의미 이해를 향상시킨다.

제안 방법

• 다양한 소스에서 유래한 다수의 약한 감독 신호를 정렬함으로써 세분화된 개념을 추출하는 정렬 공감 부트스트랩핑 방법을 제안한다.
• 최소한의 레이블 데이터로도 짧고 노이즈가 많은 쿼리에서 희귀하고 긴 꼬리 개념을 식별할 수 있는 저자원 어휘 추출 기법을 도입한다.
• 클릭, 체류 시간, 검색 패턴 등의 사용자 행동을 모델링하여 개념의 인기도와 분류 체계 구조를 동적으로 업데이트할 수 있는 개념 분포 추정 방법을 설계한다.
• 4단계 계층적 개념 그래프를 구성한다: 도메인(레벨-1), 유형/하위클래스(레벨-2), 사용자 의도의 세분화된 개념화(레벨-3), 인스턴스(레벨-4).
• 사전학습과 텍스트 재작성 전략을 활용하여 개념 그래프를 활용해 엔터티 추천과 쿼리 이해를 향상시킨다.
• 프레임워크를 알리바바 UC 브라우저에 구현하여 의도 분류 및 명명된 엔터티 인식을 포함한 여러 NLP 파이프라인에 통합한다.

실험 결과

연구 질문

• RQ1 제한된 맥락과 공존 신호를 가진 노이즈가 많은 짧은 검색 쿼리에서 세분화되고 긴 꼬리 개념을 어떻게 효과적으로 추출할 수 있는가?
• RQ2 수동 재학습이 필요 없이 실시간 사용자 행동 기반으로 개념 분류 체계의 동적 진화를 어떻게 가능하게 할 수 있는가?
• RQ3 저자원 환경에서 희귀하지만 의미적으로 유의미한 개념을 어떻게 최적화하여 추출할 수 있는가?
• RQ4 동적으로 진화하는 개념 그래프가 실제 의미 검색 및 추천 시스템의 성능에 어느 정도 기여하는가?
• RQ5 정렬 공감 부트스트랩핑 프레임워크가 전통적인 패턴 기반 또는 시퀀스 레이블링 방법보다 개념 추출 품질과 커버리지 측면에서 뛰어나다고 할 수 있는가?

주요 결과

• AliCG 프레임워크는 검색 로그에서 500만 개 이상의 세분화되고 진화하는 개념을 성공적으로 추출했으며, 긴 꼬리 및 희귀 개념에 대한 높은 커버리지 확보를 달성했다.
• 알리바바 UC 브라우저에서의 온라인 A/B 테스트 결과, 클릭률(CTR)이 5.1% 상승했고, 페이지 뷰(PV)가 5.5% 증가했으며, 인상 효율성이 7.01% 향상되었다.
• 개념 그래프가 적용된 경우 사용자가 콘텐츠에 더 0.92% 더 오래 머물렀으며, 이는 사용자 의도와의 보다 높은 일치를 시사한다.
• 의도 분류 및 명명된 엔터티 인식 분야에서 뛰어난 성능을 보였으며, 개념 그래프 없이 기반 모델에 비해 상당한 성능 향상을 보였다.
• 저자원 어휘 추출 기법은 레이블이 35개뿐인 짧은 쿼리에서 "희귀 정서 장애"와 같은 희귀 개념을 효과적으로 포착했다.
• 개념 분포 추정 방법을 통해 분류 체계에 실시간으로 업데이트가 가능해져 현재 사용자 관심사와 검색 트렌드에 항상 부합하는 결과를 제공한다.