[논문 리뷰] Language models and brains align due to more than next-word prediction and word-level information

Gabriele Merlin, Mariya Toneva|arXiv (Cornell University)|2022. 12. 01.

Topic Modeling인용 수 14

한 줄 요약

이 논문은 언어 모델(LM)의 뇌 기록과의 정렬이 순수하게 다음 단어 예측과 단어 수준의 의미에 기인하는지 여부를 조사한다. 자극 조정(fine-tuning을 통해 서사 텍스트에 맞춤)과 단어 순서 뒤섞기(예측 가능성은 손상시키나 의미는 유지함)를 적용하여, 저자들은 다음 단어 예측과 단어 수준의 의미를 통제한 상황에서도 뇌 정렬이 향상됨을 보여주며, 특히 아래쪽 전두구와 편도구에서 그러한 현상이 관찰된다. 이는 다단어 의미가 LM-뇌 정렬에 핵심적인 역할을 한다는 것을 시사한다.

ABSTRACT

Pretrained language models have been shown to significantly predict brain recordings of people comprehending language. Recent work suggests that the prediction of the next word is a key mechanism that contributes to this alignment. What is not yet understood is whether prediction of the next word is necessary for this observed alignment or simply sufficient, and whether there are other shared mechanisms or information that are similarly important. In this work, we take a step towards understanding the reasons for brain alignment via two simple perturbations in popular pretrained language models. These perturbations help us design contrasts that can control for different types of information. By contrasting the brain alignment of these differently perturbed models, we show that improvements in alignment with brain recordings are due to more than improvements in next-word prediction and word-level information.

연구 동기 및 목표

• 다음 단어 예측과 단어 수준의 의미가 언어 모델이 뇌 기록과 정렬되는데 필수적인지 여부를 확인하는 것.
• 다음 단어 예측, 단어 수준의 의미, 다단어 의미의 기여도를 뇌 정렬에서 분리하는 것.
• fine-tuning 이후 뇌 정렬 향상의 원인이 더 나은 예측 능력인지 혹은 더 풍부한 의미 표현 때문인지 조사하는 것.
• 다음 단어 예측은 손상시키되 단어 수준의 의미는 유지할 경우 뇌 정렬이 지속되는지 평가하는 것.
• 핵심 언어 처리 뇌 영역에서 정렬을 이끄는 특정 언어 정보 유형을 특정하는 것.

제안 방법

• 특정 텍스트에 맞게 사전 학습된 GPT-2 모델을 보류된 자극 서사 텍스트에 대해 fine-tuning하여 해당 텍스트의 다음 단어 예측 능력과 의미 표현을 향상시키는 것.
• 추론 시점에 단어 순서를 뒤섞어 다음 단어 예측 능력을 떨어뜨리되, 단어 수준의 의미는 유지하고 다단어 의미 구조는 유지할 가능성이 있는 조치를 취하는 것.
• 인간 피실험자가 동일한 서사를 청취할 때 언어 모델 표현과 fMRI 기록 간 상관관계를 측정하여 뇌 정렬을 평가하는 것.
• 기본 모델, 자극 조정 모델, 뒤섞인 모델 간의 정렬 성능을 여러 뇌 영역에서 비교하는 것.
• 뒤섞인 입력과 원본 입력에서의 다음 단어 예측 성능을 추적하여, 뒤섞기가 예측 가능성을 감소시키되 의미 내용은 유지함을 확인하는 것.
• 구문 및 사고 구조 처리에 기여하는 것으로 알려진 두 가지 언어 관련 뇌 영역인 아래쪽 전두구(IFG)와 편도구(AG)에 집중 분석을 수행하는 것.

실험 결과

연구 질문

• RQ1 언어 모델 표현이 뇌 기록과 정렬되기 위해 다음 단어 예측이 필수적인가, 아니면 충분한가?
• RQ2 fine-tuning 이후 단어 수준의 의미 향상이 뇌 정렬 향상에 어느 정도 기여하는가?
• RQ3 다음 단어 예측이 단어 순서 뒤섞기를 통해 손상되더라도 단어 수준의 의미는 유지될 경우 뇌 정렬이 지속되는가?
• RQ4 IFG와 AG에서 정렬을 이끄는 데 가장 기여하는 언어 정보는 무엇인가? 다음 단어 예측, 단어 수준의 의미, 다단어 의미 중 어느 것인가?
• RQ5 소규모 서사 텍스트에 대해 fine-tuning을 수행하면, 예측 능력 외에 의미의 풍부함 덕분에 새로운 자극에 대한 뇌 기록과의 정렬이 향상되는가? 그리고 그 향상은 예측 능력 향상 외의 요인 때문인가?

주요 결과

• 자극 조정은 특히 아래쪽 전두구(IFG)와 편도구(AG)에서 언어 모델의 뇌 기록과의 정렬을 유의미하게 향상시킨다.
• 단어 순서 뒤섞기는 기본 모델과 자극 조정 모델 모두에서 다음 단어 예측 성능을 유사하게 떨어뜨려, 뒤섞기가 예측 가능성을 손상시켰음을 확인한다.
• 유사한 예측 성능 저하에도 불구하고, 자극 조정 모델은 뒤섞은 후에도 기본 모델보다 뚜렷이 높은 뇌 정렬 성능을 유지한다. 이는 정렬이 예측 능력에 의해만 발생하는 것이 아님을 시사한다.
• IFG와 AG에서 뒤섞은 후에도 정렬이 유지되는 것은 문장 수준의 의미, 예를 들어 문법적 구조나 사고 수준의 의미와 같은 다단어 의미가 뇌 정렬에 상당한 기여를 한다는 것을 시사한다.
• fine-tuning 이후 뇌 정렬 향상은 향상된 다음 단어 예측이나 단어 수준의 의미로만 설명되지 않으며, 더 풍부한 다단어 의미 표현의 일부 기여로 기인한다.
• 결과는 IFG와 AG와 같은 뇌 영역이 다단어 의미 구조에 민감함을 지지하며, 이는 이들 영역이 구문 및 사고 수준 처리에 기여한다는 알려진 기능과 일치한다.