[논문 리뷰] Separating form and meaning: Using self-consistency to quantify task understanding across multiple senses

Xenia Ohmer, Elia Bruni외 1명|arXiv (Cornell University)|2023. 05. 19.

Topic Modeling인용 수 6

한 줄 요약

이 논문은 대규모 언어 모델(Large Language Model, LLM)의 이해를 정적 벤치마크에 의존하는 대신, 다국어 번역을 통해 다양한 언어적 형태 간의 자기일관성(self-consistency)을 측정하는 새로운 평가 범주를 제안한다. 모델이 자신의 입력을 번역하고, 번역된 언어 간 출력의 일관성을 평가함으로써, 형태에 의존하는 이해의 부족을 탐지한다. 연구 결과, 최신 기술 수준의 ChatGPT로 하더라도 다국어 일관성이 뚜렷하게 떨어지며, 이는 모델의 작업 이해가 언어적 형태의 변화에 취약하다는 것을 시사한다.

ABSTRACT

At the staggering pace with which the capabilities of large language models (LLMs) are increasing, creating future-proof evaluation sets to assess their understanding becomes more and more challenging. In this paper, we propose a novel paradigm for evaluating LLMs which leverages the idea that correct world understanding should be consistent across different (Fregean) senses of the same meaning. Accordingly, we measure understanding not in terms of correctness but by evaluating consistency across multiple senses that are generated by the model itself. We showcase our approach by instantiating a test where the different senses are different languages, hence using multilingual self-consistency as a litmus test for the model's understanding and simultaneously addressing the important topic of multilinguality. Taking one of the latest versions of ChatGPT as our object of study, we evaluate multilingual consistency for two different tasks across three different languages. We show that its multilingual consistency is still lacking, and that its task and world understanding are thus not language-independent. As our approach does not require any static evaluation corpora in languages other than English, it can easily and cheaply be extended to different languages and tasks and could become an integral part of future benchmarking efforts.

연구 동기 및 목표

• LLM이 표면적인 형태 패턴을 넘어서 작업을 이해하고 있는지 평가하는 데 도전하는 것.
• 평가 중에 동적으로 다른 언어 형태를 생성함으로써 벤치마크의 데이터 오염을 완화하는 것.
• LLM 이해에서 형태와 의미를 분리할 수 있는 확장성 있고 저비용의 평가 방법을 개발하는 것.
• 다국어 자기일관성을 시험지로 삼아 LLM이 다양한 언어 간에 일관된 세계 지식을 보이는지 조사하는 것.
• 모델 업데이트나 데이터 泄露가 발생하더라도 여전히 유효한 미래 지향적 평가 프레임워크를 제공하는 것.

제안 방법

• 모델의 자체 번역 능력을 활용해 입력을 다른 언어로 번역함으로써 동일한 입력에 대한 대체 언어 형태(의미)를 생성한다.
• 일관성은 원본 입력과 번역된 버전에 대한 모델의 출력을 비교함으로써 측정되며, 높은 일관성은 안정된 세계 이해를 나타낸다.
• 번역은 평가마다 새로 생성되며 저장되거나 재사용되지 않기 때문에 데이터 오염을 피할 수 있다.
• 이 방법은 영어, 독일어, 중국어에서 수행된 두 가지 NLP 작업—의미 유사성 검출(PAWX)과 자연어 추론(XNLI)—에 적용된다.
• 원본 입력과 모델이 생성한 번역에 대해 성능을 평가하며, 지시어와 입력 언어의 영향을 분리하기 위해 추가 분석을 실시한다.
• 고품질 번역(비율 BLEU > 50)의 일부는 번역 품질 향상 하에서도 일관성이 유지되는지 분석하기 위해 별도로 분석된다.

Figure 1: Illustration of the basic mechanism of our paradigm: We use the model to generate other senses of the original input. The model’s answers on the original input and the alternative sense are used to evaluate its consistency. In this example, the model is presented with the task of paraphras

실험 결과

연구 질문

• RQ1 모델이 입력을 자체적으로 번역함으로써 다른 언어로 변환했을 때, 대규모 언어 모델이 작업 성능을 얼마나 일관되게 유지하는가?
• RQ2 모델의 작업 이해가 작업이 제시된 언어적 형태(예: 언어)에 의존하는가?
• RQ3 다국어 자기일관성이 기계적 기억 패턴과 독립적으로 세계 지식과 작업 이해의 신뢰할 수 있는 지표로 기능할 수 있는가?
• RQ4 지시어 또는 입력만 다른 언어로 번역되었을 경우, 모델의 성능은 어떻게 변화하는가?
• RQ5 원래 작업 언어가 영어가 아니더라도, 입력과 지시어를 영어로 번역하면 일관성과 성능이 향상되는가?

주요 결과

• ChatGPT는 PAWS-X와 XNLI 작업 모두에서 낮은 다국어 일관성을 보이며, 원본 입력을 사용할 경우 일관성 점수는 각각 0.72와 0.70이다.
• PAWS-X의 경우, 고품질 번역(BLEU > 50) 중 35.6%만이 일관된 출력을 생성하여, 정확한 번역이라도 일관된 추론을 보장하지는 않음을 시사한다.
• XNLI의 경우, 고-BLEU 번역만 고려할 경우 일관성은 10.5%로 더욱 감소하여 번역 품질만으로는 일관성이 해결되지 않음을 나타낸다.
• 지시어가 비영어 언어로 변경되면 성능이 크게 떨어지며, XNLI의 정확도는 영어일 때 0.71에서 독일어일 때 0.50, 중국어일 때 0.60으로 감소한다.
• 입력과 지시어를 영어로 번역하면 모든 원본 언어에서 성능 향상이 관찰되며, 특히 지시어 번역에서 가장 큰 향상이 나타나, 지시어 형태가 모델 행동에 큰 영향을 미친다는 것을 시사한다.
• 고품질 번역(BLEU > 50) 조건에서도 일관성은 낮게 유지되며, PAWS-X는 35.6%, XNLI는 10.5%에 그쳐, 모델의 이해가 언어적 형태에 불변하지 않음을 강력히 뒷받침한다.

Figure 2: An overview of our experiments and analyses.