[논문 리뷰] Beam Search with Bidirectional Strategies for Neural Response Generation

Pierre Colombo, Chouchang Yang외 2명|arXiv (Cornell University)|2021. 10. 07.

Topic Modeling참고 문헌 30인용 수 11

한 줄 요약

이 논문은 양방향 비트맵 검색 전략인 BidiS와 BidiA를 제안하여 좌측에서 우측으로 및 우측에서 좌측으로의 순서 모델링을 동시에 활용함으로써 신경 응답 생성 성능을 햖थ한다. 역순 디코딩과 유사도 기반 재순서 정렬을 통합함으로써 표준 비트맵 검색에 비해 BLEU-4 점수와 응답 다양성을 향상시키면서도 계산 비용을 절감한다.

ABSTRACT

Sequence-to-sequence neural networks have been widely used in language-based applications as they have flexible capabilities to learn various language models. However, when seeking for the optimal language response through trained neural networks, current existing approaches such as beam-search decoder strategies are still not able reaching to promising performances. Instead of developing various decoder strategies based on a "regular sentence order" neural network (a trained model by outputting sentences from left-to-right order), we leveraged "reverse" order as additional language model (a trained model by outputting sentences from right-to-left order) which can provide different perspectives for the path finding problems. In this paper, we propose bidirectional strategies in searching paths by combining two networks (left-to-right and right-to-left language models) making a bidirectional beam search possible. Besides, our solution allows us using any similarity measure in our sentence selection criterion. Our approaches demonstrate better performance compared to the unidirectional beam search strategy.

연구 동기 및 목표

• 표준 비트맵 검색의 한계, 즉 단순한 가능도 점수 의존성과 시퀀스 끝부분에서의 입력 의존성 약화 문제를 해결하기 위해.
• 우측에서 좌측으로의 의존성을 포착하는 역순 언어 모델을 도입하여 응답 품질과 다양성을 향상시키기 위해.
• 유연한 유사도 지표를 사용하여 정방향 및 역방향 비트맵 출력을 결합하는 새로운 재순서 정렬 전략을 개발하기 위해.
• 기존 재순서 정렬 방법에 비해 계산 오버헤드를 줄이면서도 성능을 유지하거나 향상시키기 위해.

제안 방법

• 표준 좌측에서 우측 생성을 위한 하나, 역순 우측에서 좌측 생성을 위한 하나의 별도의 seq2seq 모델을 훈련한다.
• 역순 모델을 사용해 가설을 재점수 매기며, 저가능도 끝부분에 대한 페널티를 적용함으로써 시퀀스 끝에서의 입력 관련성을 향상시킨다.
• BidiS를 구현하여 정방향 및 역방향 가능도 점수를 학습 가능한 가중치 λ를 사용해 조합한다.
• BidiA를 도입하여 정방향 및 역방향 비트맵 출력 간의 유사도(예: BLEU 또는 WMD)를 최대화함으로써 최적의 가설을 선택한다.
• 길이 정규화 및 비트맵 자르기 기법을 적용하여 효율성을 유지하며, 복잡도 분석을 통해 BidiA가 VBS보다 더 효율적임을 보였다.
• 공유 인코더 훈련을 통해 파라미터 수를 줄이고 훈련 안정성을 향상시키면서도 성능을 유지한다.

실험 결과

연구 질문

• RQ1 역순 순서 모델링이 신경 응답 생성에서 생성된 응답의 품질을 향상시킬 수 있는가?
• RQ2 정방향 및 역방향 비트맵 출력을 유사도 기반 재순서 정렬로 조합할 경우, 단방향 비트맵 검색에 비해 더 높은 BLEU-4 점수를 달성할 수 있는가?
• RQ3 양방향 비트맵 검색 전략은 계산 비용을 줄이면서도 응답 다양성을 향상시킬 수 있는가?
• RQ4 유사도 지표의 선택(예: BLEU 대비 WMD)이 재순서 정렬 전략의 성능에 어떤 영향을 미치는가?
• RQ5 양방향 비트맵 검색은 생성된 시퀀스의 끝부분으로 갈수록 입력 영향력이 감소하는 문제를 완화할 수 있는가?

주요 결과

• BidiA는 Cornell 데이터셋에서 기준 VBS 대비 BLEU-4 점수를 최대 8% 향상시켰으며, Switchboard 데이터셋에서도 일관된 성과를 기록했다.
• BidiA는 비트맵 크기에 관계없이 성능을 유지하며, VBS가 B=20 및 B=40에서 성능 저하를 보이는 것과는 달리 더 뛰어난 강건성을 보였다.
• BidiA는 더 높은 다양성을 보였으며, 특히 n=2일 경우 distinct-n 점수는 VBS보다 최대 8% 높았다.
• BidiA의 복잡도는 VBS보다 낮으며, 계산 비용은 2T×O((B/2)V×log(BV/2))로 나타나 더 효율적이다.
• BidiS는 역순 모델 재점수 기반으로 VBS를 능가하며, 검증 데이터에서 λ 최적화를 통해 일반화 능력이 향상되었다.
• BidiA가 선택한 응답의 인덱스 분포는 VBS에 비해 최고의 BLEU-4 가설과 더 잘 일치하며, 평가 지표와의 일치도가 높다는 것을 시사한다.