[논문 리뷰] Exploring the psychology of LLMs' Moral and Legal Reasoning

Guilherme Almeida, José Luiz Nunes외 3명|arXiv (Cornell University)|2023. 08. 02.

Legal Education and Practice Innovations참고 문헌 61인용 수 7

한 줄 요약

이 연구는 실험 심리학 방법을 적용하여 최신 기술의 대규모 언어 모델(LM) 네 종류—GPT-4, Gemini Pro, Claude 2.1, Llama 2 Chat 70b—의 도덕적 및 법적 추론 능력을 평가한다. 이는 인간의 사고 방식을 다룬 고전적 심리학 연구 8건을 재현하여 수행된다. 연구 결과, LLM은 인간의 반응과 높은 상관관계를 보이지만, 반응 분산이 낮아 효과 크기를 과대평가하는 경향이 있어 인간의 직관과는 다를 수 있는 '기계 심리학'이 존재함을 시사한다. 이는 심리학 연구에서 LLM을 인간 참가자의 대체로 사용하는 것에 대해 경계할 것을 제기한다.

ABSTRACT

Large language models (LLMs) exhibit expert-level performance in tasks across a wide range of different domains. Ethical issues raised by LLMs and the need to align future versions makes it important to know how state of the art models reason about moral and legal issues. In this paper, we employ the methods of experimental psychology to probe into this question. We replicate eight studies from the experimental literature with instances of Google's Gemini Pro, Anthropic's Claude 2.1, OpenAI's GPT-4, and Meta's Llama 2 Chat 70b. We find that alignment with human responses shifts from one experiment to another, and that models differ amongst themselves as to their overall alignment, with GPT-4 taking a clear lead over all other models we tested. Nonetheless, even when LLM-generated responses are highly correlated to human responses, there are still systematic differences, with a tendency for models to exaggerate effects that are present among humans, in part by reducing variance. This recommends caution with regards to proposals of replacing human participants with current state-of-the-art LLMs in psychological research and highlights the need for further research about the distinctive aspects of machine psychology.

연구 동기 및 목표

• 실험 심리학의 방법을 활용하여 최신 기술의 대규모 언어 모델(LM)이 도덕적 및 법적 문제에 대해 어떻게 추론하는지 탐구하는 것.
• 다양한 도덕적 및 법적 추론 과제에서 LLM의 반응이 인간의 반응과 얼마나 일치하는지 평가하는 것.
• 특히 효과 크기와 분산 측면에서 인간과 LLM의 추론 패턴 간의 체계적 차이를 규명하는 것.
• 특히 AI 안전성 및 연구 방법론의 맥락에서, LLM이 편향된 인간의 직관에 얼마나 잘 맞춰져 있는지에 대한 규범적 함의를 평가하는 것.

제안 방법

• LLM을 반응 생성자로 사용하여 도덕적 및 법적 추론과 관련된 8개의 전통적인 심리학 실험을 재현.
• 원래 연구나 재현된 연구에서의 인간 반응과 LLM의 출력(GPT-4, Gemini Pro, Claude 2.1, Llama 2 Chat 70b)을 비교.
• 부분eta 제곱 및 코헨의 d와 같은 통계적 측정법을 사용하여 인간과 LLM의 반응 간 효과 크기와 상관관계를 정량화.
• LLM의 반응 분산이 인간의 반응과 비교하여 체계적으로 과대평가되었는지 분석하여, 과신 또는 과대평가 여부를 탐지.
• 실험적 요인(예: 규범 위반, 인과적 구조 등)과 모델의 반응 간 상호작용을 분석하여 추론 패턴의 차이를 탐지.
• 인지과학에서 흔히 쓰이는 용어를 사용하여 LLM의 반응을 '기계적 직관'의 대체로 간주하며, 정신 상태를 가정하지 않는 방식으로 접근.

실험 결과

연구 질문

• RQ1 최신 기술의 LLM이 전통적인 실험적 범주에서 인간의 도덕적 및 법적 추론을 어느 정도 재현하는가?
• RQ2 LLM의 반응에서 관찰된 효과 크기는 인간의 반응과 비교해 볼 때, 크기와 분산 측면에서 어떻게 다른가?
• RQ3 다른 LLM 간에 추론 패턴에 체계적인 차이가 있으며, 인간의 직관과 어떻게 다를 수 있는가?
• RQ4 LLM은 후행적 편향이나 결과 민감도와 같은 인간의 인지 편향을 어떻게 증폭하거나 왜곡하는가?
• RQ5 이러한 차이가 심리학 연구에서 인간 참가자의 대체로 LLM을 사용하는 것에 어떤 함의를 갖는가?

주요 결과

• GPT-4는 모든 연구에서 인간의 반응과 가장 높은 일치도를 보였으며, Gemini Pro, Claude 2.1, Llama 2 Chat 70b를 앞섰다.
• 인간 판단과의 높은 상관관계에도 불구하고, LLM의 반응은 인간의 반응보다 항상 분산이 낮아 효과 크기가 과대평가되었다.
• 특히 Study 5(결과 민감도)와 같은 연구에서는 LLM이 인간의 편향을 증폭시켰으며, 특히 확률 판단에서 분산이 낮아서 그러한 경향이 뚜렷했다.
• 동일한 실험적 조작이 LLM에서도 유의미한 효과를 일으켰지만, 피험자 요소(예: 인과적 구조)와의 상호작용은 모델 간 및 인간 패턴과 다소 다를 수 있었다.
• Study 6에서 Llama 2는 인간보다 동의의 유효성을 판단할 가능성이 현저히 낮아, 그 추론에 특별한 도덕적 기준이 존재함을 시사했다.
• Study 2에서 GPT-4와 Gemini Pro는 인간보다 예상되는 의무적 상태(예: 도덕적 의무)에 더 강하게 일치하는 경향을 보여, 규범적 추론에서 인간과의 괴리가 있음을 시사했다.