[論文レビュー] Could a Large Language Model be Conscious?

David J. Chalmers|arXiv (Cornell University)|Mar 4, 2023

Topic Modeling被引用数 127

ひとこと要約

Chalmers は LLM意識の賛否の議論を分析し、現状の障害を指摘する一方で、将来の後継モデルが意識を持つ可能性を示唆する。

ABSTRACT

There has recently been widespread discussion of whether large language models might be sentient. Should we take this idea seriously? I will break down the strongest reasons for and against. Given mainstream assumptions in the science of consciousness, there are significant obstacles to consciousness in current models: for example, their lack of recurrent processing, a global workspace, and unified agency. At the same time, it is quite possible that these obstacles will be overcome in the next decade or so. I conclude that while it is somewhat unlikely that current large language models are conscious, we should take seriously the possibility that successors to large language models may be conscious in the not-too-distant future.

研究の動機と目的

• 現在の大規模言語モデルが主流の意識理論の下で意識を示しているかを評価する。
• 現在のLLMの主な障害を特定する（例: 再帰的処理、グローバルワークスペース、統一されたエージェンシー）。
• 将来のLLMがこれらの障害を克服し意識を持つ可能性を評価する。

提案手法

• LLMs に適用された標準的な意識基準のレビューと批評。
• 再帰的処理、グローバルワークスペース、統一エージェンシーなどの構造要件の系統的分析。
• 技術的な経路と現状の制約を克服する将来の可能性の議論。

実験結果

リサーチクエスチョン

• RQ1 現在の大規模言語モデルは従来の意識基準を満たしているか？
• RQ2 今日、LLMsを意識させない主な障害は何か？
• RQ3 LLMsの今後の後継がこれらの障害を克服して近い将来に意識を持つ可能性はあるか？

主な発見

• 現在のLLMsは、再帰的処理、グローバルワークスペース、および統一エージェンシーの欠如のため、主流理論の下で意識を持つ可能性は低い。
• 次の十年程度のうちにこれらの障害を克服する後継モデルへの現実的な道筋がある。
• 現時点の懐疑にもかかわらず、将来の意識を持つLLMsの可能性は真剣な検討と継続的な探求を正当化する。