[논문 리뷰] Structural Bias for Aspect Sentiment Triplet Extraction

Chen Zhang, Lei Ren외 4명|arXiv (Cornell University)|2022. 09. 02.

Sentiment Analysis and Opinion Mining인용 수 7

한 줄 요약

이 논문은 사전학습된 언어 모델(PLM)에 상대적 위치 편향을 통합하는 경량 구조적 어댑터를 제안하며, 이를 통해 아웃풋 성능을 최적화하고 파라미터 증가량과 지연 시간을 최소화한다. 이 방법은 계산 비용이 높은 문법적 의존성 파싱 대신 효율적인 상대 거리 인코딩을 사용하여, PLM 기반의 ASTE 시스템에서도 구조적 편향이 여전히 필수적임을 입증한다.

ABSTRACT

Structural bias has recently been exploited for aspect sentiment triplet extraction (ASTE) and led to improved performance. On the other hand, it is recognized that explicitly incorporating structural bias would have a negative impact on efficiency, whereas pretrained language models (PLMs) can already capture implicit structures. Thus, a natural question arises: Is structural bias still a necessity in the context of PLMs? To answer the question, we propose to address the efficiency issues by using an adapter to integrate structural bias in the PLM and using a cheap-to-compute relative position structure in place of the syntactic dependency structure. Benchmarking evaluation is conducted on the SemEval datasets. The results show that our proposed structural adapter is beneficial to PLMs and achieves state-of-the-art performance over a range of strong baselines, yet with a light parameter demand and low latency. Meanwhile, we give rise to the concern that the current evaluation default with data of small scale is under-confident. Consequently, we release a large-scale dataset for ASTE. The results on the new dataset hint that the structural adapter is confidently effective and efficient to a large scale. Overall, we draw the conclusion that structural bias shall still be a necessity even with PLMs.

연구 동기 및 목표

• 사전학습된 언어 모델(PLM)을 사용할 때 구조적 편향이 여전히 아웃풋 감성 트리플릿 추출(ASTE)에 필요한지 조사하는 것.
• 기존의 구조적 편향 통합 방법의 비효율성, 특히 파라미터 및 지연 시간 부담을 해결하는 것.
• 주 모델 파라미터의 미세조정 없이 PLM에 구조적 편향을 통합하는 경량이고 효율적인 어댑터를 개발하는 것.
• 제안된 방법이 표준 벤치마크와 새로 공개된 대규모 ASTE 데이터셋에서의 효과를 평가하는 것.

제안 방법

• PLM의 자기주의 주의 메커니즘에 상대적 거리 거리에서 유도된 구조적 어텐션 맵을 추가하는 구조적 어댑터를 제안한다.
• 계산 비용을 줄이면서 성능을 유지하기 위해 문법적 의존성 구조의 단순화된 대체재로 상대 거리를 사용한다.
• 원본 어텐션 맵에 덧셈 방식으로 어댑터를 통합하여 추가 파라미터 수를 최소화한다.
• PLM의 전체 미세조정을 피하는 파라미터 효율적인 어댑터 설계를 통해 모델 효율성을 유지한다.
• 의존성 파싱을 계산 비용이 낮은 상대 거리 인코딩으로 대체하여 지연 시간 효율성을 향상시킨다.
• 세미나르 벤치마크와 새로 공개된 대규모 데이터셋 𝕃𝕒𝕤𝕥𝕖𝕕를 통해 방법의 유효성을 검증한다.

실험 결과

연구 질문

• RQ1 사전학습된 언어 모델을 사용할 때 아웃풋 감성 트리플릿 추출에서 구조적 편향이 여전히 필요한가?
• RQ2 높은 파라미터나 지연 시간 비용 없이 구조적 편향을 PLM에 효율적으로 통합할 수 있는가?
• RQ3 문법적 의존성 구조의 대체로 상대 거리 거리를 사용할 경우 ASTE에서 성능이 유지되거나 향상되는가?
• RQ4 기존 베이스라인 대비 제안된 구조적 어댑터는 대규모 실세계 ASTE 데이터에서 어떻게 성능을 내는가?

주요 결과

• 제안된 구조적 어댑터는 SemEval 벤치마크에서 최고 성능의 F1 스코어를 기록하며, 강력한 베이스라인을 압도적으로 앞서며 파라미터 증가량을 최소화한다.
• 새로 공개된 대규모 데이터셋 𝕃𝕒𝕤𝕥𝕖𝕕에서 어댑터는 일관된 성능 향상을 유지하여 대규모 스케일에서의 효과성을 확인한다.
• BERT-base를 사용할 때 GTS에서 F1을 1.57포인트 향상시켰다(44.92에서 45.79로), MuG에서는 1.94포인트 향상시켰다(46.22에서 47.22로).
• 의존성 파싱을 상대 거리 계산으로 대체함으로써 계산 비용이 낮은 상대 거리 인코딩을 사용하여 낮은 지연 시간을 달성한다.
• RoBERTa-large에서는 성능 향상이 없었으며, 이는 더 큰 PLM에 이 방법을 적용하기 위해 향후 연구가 필요함을 시사한다.
• 결과는 강력한 PLM 시대에도 불구하고, 특히 효율적으로 통합된 경우, ASTE에서 구조적 편향이 여전히 필수적임을 확인한다.