[논문 리뷰] A Probabilistic Translation Method for Dictionary-based Cross-lingual Information Retrieval in Agglutinative Languages

Javid Dadashkarimi, Azadeh Shakery외 1명|arXiv (Cornell University)|2014. 11. 04.

Natural Language Processing Techniques참고 문헌 23인용 수 6

한 줄 요약

이 논문은 페르시아어와 같은 분어어에서 사전 기반 다국어 정보 검색(CLIR)을 위한 확률적 번역 방법인 MESC를 제안한다. 최소 편집 거리와 단어 빈도 기반 확률 모델을 이용해 단일 언어 코퍼스에서 사전 항목의 가능성이 높은 파생형을 생성함으로써 번역 정확도를 향상시키며, 영문-페르시아어 CLIR 과제에서 이전 방법들을 크게 능가한다.

ABSTRACT

Translation ambiguity, out of vocabulary words and missing some translations in bilingual dictionaries make dictionary-based Cross-language Information Retrieval (CLIR) a challenging task. Moreover, in agglutinative languages which do not have reliable stemmers, missing various lexical formations in bilingual dictionaries degrades CLIR performance. This paper aims to introduce a probabilistic translation model to solve the ambiguity problem, and also to provide most likely formations of a dictionary candidate. We propose Minimum Edit Support Candidates (MESC) method that exploits a monolingual corpus and a bilingual dictionary to translate users' native language queries to documents' language. Our experiments show that the proposed method outperforms state-of-the-art dictionary-based English-Persian CLIR.

연구 동기 및 목표

• 형태소가 풍부한 언어에서 사전 기반 CLIR의 번역 모호성과 OOV 문제를 해결한다.
• 스테머가 신뢰할 수 없는 분어어(예: 페르시아어)에서, 이중어 사전에 종종 누락된 완전한 파생형을 보완한다.
• 단일 언어 코퍼스와 편집 거리를 활용해 사전 항목의 타당한 어형을 생성함으로써 CLIR 성능을 향상시킨다.
• 검색어의 맥락을 활용해 번역어를 더 정확하게 순위 매길 수 있는 확률적 후보 선택 모델을 개발한다.
• 낮은 품질의 번역어 선택이 초래하는 패배 효과를 줄이기 위해 바이그램 확률과 지원 후보를 통합한다.

제안 방법

• 편집 거리 기반 최소 편집 연산을 통해 단일 언어 코퍼스의 단어와 가장 가까운 사전 항목에서 후보 어형을 생성하기 위해 레벤슈타인 거리를 사용한다.
• 최소 편집 거리를 통해 사전 항목과 유사한 단어를 단일 언어 코퍼스에서 식별함으로써 최소 편집 지원 후보(MESC)를 구성한다.
• 비라틴 문자를 처리하기 위해 규칙 기반의 이sov음화 모듈을 적용하여 OOV 단어를 처리한다.
• 후보 번역어의 바이그램 빈도 기반 확률 모델을 구축하여 맥락적으로 더 관련성이 높은 용어를 선별한다.
• 엔드 투 엔드 CLIR 평가를 위해 MESC 모델을 INQUERY 검색 시스템에 통합한다.
• 다양한 후보 생성을 보장하기 위해 높은 커버리지의 이중어 사전을 사용하며, 순위 매기기나 사전 선택과는 독립적으로 운영한다.

실험 결과

연구 질문

• RQ1 최소 편집 거리와 단일 언어 코퍼스 기반의 확률적 방법이 분어어에서 사전 기반 CLIR의 번역 정확도를 향상시킬 수 있는가?
• RQ2 편집 거리 기반으로 생성된 지원 후보가 얼마나 모호성을 줄이고 검색 성능을 향상시키는가?
• RQ3 바이그램 확률의 통합이 맥락에서 최적의 번역어 선별에 어떻게 기여하는가?
• RQ4 MESC 방법이 영문-페르시아어 CLIR에서 INQUERY나 기반 기반 접근법과 같은 기존 사전 기반 CLIR 시스템을 능가하는가?
• RQ5 누락된 번역어와 어구 수준의 복잡성은 MESC의 성능에 어떤 영향을 미치며, 이 방법은 이러한 문제를 완화할 수 있는가?

주요 결과

• CLEF 2008 데이터셋에서 MESC는 평균 평균 정밀도(MAP) 0.4449를 기록하여 페르시아어 사전 기반 베이스라인 대비 25.7% 향상되었다.
• CLEF 2009에서는 MAP 0.407을 기록하여 페르시아어 사전 기반 베이스라인 대비 6.1% 향상되었으며, 일부 주제에서는 성과가 낮게 나타났다.
• 모든 테스트 사전에서 INQUERY 시스템을 초월한 MAP 성능을 기록했으며, CLEF 2008의 페르시아어 사전에서 최대 +25.7% 향상된 바이어스를 보였다.
• MESC의 정밀도(5개 및 10개 기준)는 항상 기준 방법보다 높았으며, 특히 CLEF 2008에서 순위 매기기 품질 향상이 두드러졌다.
• 형태소 변형 처리에 뛰어난 강건성을 보였으며, MESC가 지원 후보를 생성하는 능력 덕분에 누락된 파생형의 영향을 크게 줄였다.
• 다중 부분 번역(예: 'rail'을 'râh-âhn'으로 번역) 처리의 한계가 있었지만, 효과적인 바이그램 모델링과 후보 선별 덕분에 MESC의 성능은 여전히 높았다.