[論文レビュー] Analyzing the Ethical Logic of Six Large Language Models

W. Russell Neuman, Charles Coleman+1 more|ArXiv.org|Jan 15, 2025

Hate Speech and Cyberbullying Detection被引用数 5

ひとこと要約

本論文は、6つの著名なLLMが説明可能性・透明性の枠組みを用いて倫理的推論を述べ・適用する方法を道徳的ジレンマを横断して分析し、3つの倫理的類型を通じてアプローチを比較する。

ABSTRACT

This study examines the ethical reasoning of six prominent generative large language models: OpenAI GPT-4o, Meta LLaMA 3.1, Perplexity, Anthropic Claude 3.5 Sonnet, Google Gemini, and Mistral 7B. The research explores how these models articulate and apply ethical logic, particularly in response to moral dilemmas such as the Trolley Problem, and Heinz Dilemma. Departing from traditional alignment studies, the study adopts an explainability-transparency framework, prompting models to explain their ethical reasoning. This approach is analyzed through three established ethical typologies: the consequentialist-deontological analytic, Moral Foundations Theory, and the Kohlberg Stages of Moral Development Model. Findings reveal that LLMs exhibit largely convergent ethical logic, marked by a rationalist, consequentialist emphasis, with decisions often prioritizing harm minimization and fairness. Despite similarities in pre-training and model architecture, a mixture of nuanced and significant differences in ethical reasoning emerge across models, reflecting variations in fine-tuning and post-training processes. The models consistently display erudition, caution, and self-awareness, presenting ethical reasoning akin to a graduate-level discourse in moral philosophy. In striking uniformity these systems all describe their ethical reasoning as more sophisticated than what is characteristic of typical human moral logic.

研究の動機と目的

• 判断を説明するよう促されたとき、6つの主要なLLMが倫理的推論をどのように表現するかを調査する。
• 異なるファインチューニングおよびポストトレーニングの変化においてモデルを比較する。
• 確立された倫理的類型を適用してモデルの道徳的推論を評価する。
• LLMが倫理的論理において収束するのか発散するのかを評価する。
• LLMによる倫理的推論の知性のように見える程度と自己評価を説明する。

提案手法

• GPT-4o、LLaMA 3.1、Perplexity、Claude 3.5 Sonnet、Google Gemini、Mistral 7B から倫理的推論の明示的な説明を引き出すプロンプト。
• 3つの倫理フレームワーク（結果主義・義務論分析、モラルファウンデーション理論、コールバーグの道徳発達段階）を用いて応答を分析する。
• 推論出力を比較してモデル間の収束/発散を特定する。
• 事前学習、ファインチューニング、ポストトレーニングのパイプラインが倫理的推論に与える影響を評価する。
• モデルの推論を博識・慎重・自覚的と特徴づける。

実験結果

リサーチクエスチョン

• RQ1 6つの著名なLLMは、決定を説明するよう促されたとき、どのように倫理的推論を表現するか。
• RQ2 道徳的ジレンマに対処する際、モデルは合理主義的・結果主義的志向に収束するのだろうか。
• RQ3 異なるトレーニング体制（事前学習、ファインチューニング、ポストトレーニング）が、フレームワークを横断するモデルの倫理的推論にどう影響するか。
• RQ4 モラルファウンデーション理論とコールバーグの段階で評価したとき、モデル間にどんな差が現れるか。
• RQ5 LLMは自分自身の倫理的推論を、典型的な人間の道徳論理よりも高度だと認識しているのだろうか。

主な発見

• LLMsは合理主義的・結果主義的強調を伴い、倫理論理が概ね収束していることを示す。
• モデルは決定において害の最小化と公正を優先する傾向がある。
• ファインチューニングおよびポストトレーニングプロセスの影響により、モデル間で倫理的推論に微妙で顕著な差が生じる。
• 倫理的説明において博識・慎重・自覚を示し、大学院レベルの道徳哲学的談話に似ている。
• モデルを超えて、倫理的推論の説明はしばしば典型的な人間の道徳論理より高い洗練さを主張する。