[논문 리뷰] Exploring Generative Models for Joint Attribute Value Extraction from Product Titles

K S Roy, Tapas R. Nayak외 1명|arXiv (Cornell University)|2022. 08. 15.

Advanced Text Analysis Techniques인용 수 4

한 줄 요약

이 논문은 제품 제목에서 연관 속성 값 추출(AVE)을 위한 새로운 생성적 접근법을 제안하며, 두 가지 파ragm: 단어 시퀀스 기반 및 위치 시퀀스 기반 파라다임을 사용하여 텍스트 생성으로서 이 작업을 정식화한다. 이 방법은 작업 전용 태깅이나 아키텍처 설계 없이 T5 및 BART 모델을 사용하여 두 개의 벤치마크 데이터셋에서 최고 성능을 달성한다.

ABSTRACT

Attribute values of the products are an essential component in any e-commerce platform. Attribute Value Extraction (AVE) deals with extracting the attributes of a product and their values from its title or description. In this paper, we propose to tackle the AVE task using generative frameworks. We present two types of generative paradigms, namely, word sequence-based and positional sequence-based, by formulating the AVE task as a generation problem. We conduct experiments on two datasets where the generative approaches achieve the new state-of-the-art results. This shows that we can use the proposed framework for AVE tasks without additional tagging or task-specific model design.

연구 동기 및 목표

• 시퀀스 레이블링 접근법이 속성 값 추출(AVE)에서 가지는 한계를 해결하기 위해, 작업 전용 태깅이 필요하고 대규모 속성 집합에 대해 확장하기 어려운 점을 해결하고자 한다.
• 생성 모델이 사전에 정의된 태그 집합이나 각 속성에 대해 별도의 모델을 의존하지 않고도 속성과 그 값들을 동시에 추출할 수 있는지 탐색하고자 한다.
• 엔드 투 엔드 AVE에 대해 두 가지 새로운 생성 형식—단어 시퀀스 기반 및 위치 시퀀스 기반—의 효과를 평가하고자 한다.
• 생성 모델이 공동 추출 및 개별 속성/값 예측 작업 모두에서 기존의 태깅 기반 방법보다 뛰어난 성능을 보일 수 있음을 입증하고자 한다.
• 단일 대비 다중 속성-값 쌍을 포함한 문장에서 이 접근법의 견고성(로버스트니)을 조사하고자 한다.

제안 방법

• 입력 제품 제목을 속성-값 쌍의 구조화된 출력 시퀀스로 변환하여 AVE 작업을 텍스트 생성 문제로 정식화한다.
• 각 속성-값 쌍을 '값; 속성' 형식으로 생성하고 '|'로 구분하는 단어 시퀀스 기반 파라다임을 제안하며, 두 성분을 동시에 생성할 수 있도록 한다.
• 각 쌍을 '[start_pos] [end_pos] 속성' 형식으로 표현하는 위치 시퀀스 기반 파라다임을 도입하며, 모델이 구간과 해당 속성을 생성하도록 한다.
• T5, BART, WDec, PNDec와 같은 사전 훈련된 시퀀스 투 시퀀스 모델을 생성 기반 백본으로 사용하여 입력 제목에서 목표 시퀀스를 디코딩한다.
• 생성된 시퀀스와 골드 표준 속성-값 시퀀스 간의 차이를 최소화하기 위해 교차 엔트로피 손실을 사용하여 모델을 엔드 투 엔드로 훈련한다.
• 유효하지 않은 출력(예: 시작/종료 위치 누락 또는 불완전한 속성-값 쌍 등)을 걸러내기 위해 후처리를 적용하고, 표준 F1 스코어를 사용하여 평가한다.

실험 결과

연구 질문

• RQ1 생성 모델이 작업 전용 태깅이나 모델 설계 없이도 공동 속성 및 값 추출을 효과적으로 수행할 수 있는가?
• RQ2 다양한 데이터셋에서 단어 시퀀스 기반 및 위치 시퀀스 기반 생성 파라다임 간의 성능 및 견고성은 어떻게 비교되는가?
• RQ3 이러한 생성 접근법이 AVE 작업에서 기존의 시퀀스 레이블링 및 질문-응답 기반 방법보다 우수한가?
• RQ4 단일 대비 다중 속성-값 쌍을 포함한 문장에서 모델의 성능은 어떠한가?
• RQ5 생성 모델은 훈련 데이터에 포함된 태깅된 속성-값 쌍 이외의 경우에도 얼마나 잘 일반화되는가?

주요 결과

• 제안된 생성 프레임워크는 AV-DATA-V1 및 AV-MAE 데이터셋 모두에서 최고 성능을 달성하였으며, 단어 시퀀스 기반 파라다임에서 T5는 AV-MAE에서 78.36 F1을 기록하였다.
• AV-DATA-V1 데이터셋에서 BART는 단어 시퀀스 기반 파라다임 하에서 공동 속성-값 추출에서 최고의 F1 스코어 64.81을 기록하였다.
• T5를 사용한 위치 시퀀스 기반 파라다임은 AV-MAE에서 70.16 F1을 기록하였으며, BERT-NER(다중 값 처리 시 85.40 F1, 그러나 공동 추출 시 낮은 성능)를 초월하였다.
• 생성 모델은 특히 다중 속성-값 쌍 처리에서 태깅 기반 모델인 BERT-NER 및 SUOT보다 일관되게 뛰어난 성능을 보였다.
• 단어 시퀀스 기반 파라다임에서 훈련 중 속성-값 쌍의 순서가 뒤바뀌어도 모델의 성능이 견고하게 유지되어 강력한 일반화 능력을 보였다.
• 골드 표준에 포함되지 않은 유효한 속성-값 쌍을 생성하는 경우가 있었음에도 불구하고, 모델은 높은 정밀도와 재현율을 유지하여 강력한 일반화 능력을 보였다.