[論文レビュー] A Categorical Archive of ChatGPT Failures

Ali Borji|arXiv (Cornell University)|Feb 6, 2023

Artificial Intelligence in Healthcare and Education被引用数 91

ひとこと要約

本論文は、ChatGPT の失敗を十一のカテゴリに整理することで分析し、推論、数学、コーディング、バイアス、事実性などにわたる制約を浮き彫りにし、今後の改善を導く。

ABSTRACT

Large language models have been demonstrated to be valuable in different fields. ChatGPT, developed by OpenAI, has been trained using massive amounts of data and simulates human conversation by comprehending context and generating appropriate responses. It has garnered significant attention due to its ability to effectively answer a broad range of human inquiries, with fluent and comprehensive answers surpassing prior public chatbots in both security and usefulness. However, a comprehensive analysis of ChatGPT's failures is lacking, which is the focus of this study. Eleven categories of failures, including reasoning, factual errors, math, coding, and bias, are presented and discussed. The risks, limitations, and societal implications of ChatGPT are also highlighted. The goal of this study is to assist researchers and developers in enhancing future language models and chatbots.

研究の動機と目的

• ChatGPT の共通の失敗モードを特定・分類し、時間経過に伴う進捗を評価するための参照を作成する。
• 大規模言語モデルのリスク、制限、社会的影響を浮き彫りにし、責任ある開発を導く。
• モデルの訓練・テストを支援するデータセット風の失敗例参照を提供する。

提案手法

• 公開デモや先行研究から出典を得た失敗例を収集する。
• 失敗を eleven のカテゴリに分類する（推論、論理、math、事実エラー、bias、ユーモア、coding を含む）。

実験結果

リサーチクエスチョン

• RQ1 多様なタスクにわたって、ChatGPT の典型的な失敗モードを最も適切にとらえるカテゴリは何か？
• RQ2 これらの失敗は推論、四則演算、事実性、社会的バイアスにはどのように現れるか？
• RQ3 安全性、倫理、将来のモデル開発におけるこれらの失敗の含意は何か？

主な発見

• ChatGPT の失敗を eleven のカテゴリとして特定し、論じられている。
• 失敗は推論、論理、数学・算数、事実エラー、偏見と差別、機知とユーモア、コーディングなどを含む。
• 分析は世界モデルの欠如、幻覚への感受性、標準化されたベンチマークの必要性などの限界を強調している。
• 例は一部の分野（例：物理的推論）で時間とともに改善を示すが、多くの課題がカテゴリを超えて持続している。
• 本研究は、モデルの進捗を評価するための参照点としてアーカイブを提案し、訓練・テスト用の合成データ生成にも活用する。