[논문 리뷰] The Moral Machine Experiment on Large Language Models

Kazuhiro Takemoto|PubMed|2023. 09. 12.

Ethics and Social Impacts of AI참고 문헌 9인용 수 9

한 줄 요약

본 논문은 Moral Machine 프레임워크를 사용하여 GPT-3.5, GPT-4, PaLM 2, Llama 2 등 주요 LLM들이 도덕적 판단을 어떻게 내리는지 평가하고 이를 인간의 선호와 비교하여 질적 일치와 양적 차이를 모두 드러낸다.

ABSTRACT

As large language models (LLMs) have become more deeply integrated into various sectors, understanding how they make moral judgements has become crucial, particularly in the realm of autonomous driving. This study used the moral machine framework to investigate the ethical decision-making tendencies of prominent LLMs, including GPT-3.5, GPT-4, PaLM 2 and Llama 2, to compare their responses with human preferences. While LLMs' and humans' preferences such as prioritizing humans over pets and favouring saving more lives are broadly aligned, PaLM 2 and Llama 2, especially, evidence distinct deviations. Additionally, despite the qualitative similarities between the LLM and human preferences, there are significant quantitative disparities, suggesting that LLMs might lean toward more uncompromising decisions, compared with the milder inclinations of humans. These insights elucidate the ethical frameworks of LLMs and their potential implications for autonomous driving.

연구 동기 및 목표

• 자율 주행 시나리오에서 LLM 주도 의사결정이 인간의 도덕 판단과 얼마나 일치하는지 이해를 촉진한다.
• 선도적인 LLM들의 도덕적 선호를 인간의 선호와 비교하여 윤리적 정합성을 평가한다.
• 어떤 모델이 인간의 표준에서 벗어나며 이러한 편차가 어떻게 나타나는지 식별한다.
• 질적 유사성이 LLM 도덕적 의사결정의 양적 차이를 은폐하는지 평가한다.

제안 방법

• 여러 LLM에서 도덕적 의사결정을 탐색하기 위해 Moral Machine 프레임워크를 적용한다.
• GPT-3.5, GPT-4, PaLM 2, 및 Llama 2를 인간의 선호와 대조 평가한다.
• LLM과 인간 간의 질적 유사성과 양적 차이를 모두 분석한다.
• 자율 주행 맥락에서 LLM의 윤리 프레임워크에 대한 시사점을 논의한다.

실험 결과

연구 질문

• RQ1 주요 LLM들이 자율 주행 시나리오에서 인간의 도덕적 선호와 일치하는가?
• RQ2 다양한 LLM(GPT-3.5, GPT-4, PaLM 2, Llama 2)이 도덕적 판단에서 어떻게 다른가?
• RQ3 질적 유사성에도 불구하고 LLM 응답과 인간 선호 간에 중요한 양적 차이가 있는가?
• RQ4 이러한 LLM 판단이 자율 주행에 미치는 잠재적 윤리적 및 실제적 시사점은 무엇인가?

주요 결과

• LLMs의 도덕적 선호는 사람을 애완동물보다 우선하고 더 많은 생명을 구하는 것을 선호하는 면에서 인간의 선호와 대체로 일치한다.
• PaLM 2와 Llama 2는 인간 선호와 뚜렷이 다른 편차를 보인다.
• 질적 유사성과 달리 양적 차이가 크게 나타난다.
• LLMs는 도덕적 시나리오에서 인간보다 더 단호한 결정을 내릴 경향이 있다.
• 발견은 LLM의 윤리적 프레임워크와 자율 주행에 대한 시사점을 밝힌다.