[論文レビュー] Making AI Intelligible: Philosophical Foundations

Herman Cappelen, Joshua Dever|arXiv (Cornell University)|Jun 12, 2024

Ethics and Social Impacts of AI被引用数 7

ひとこと要約

The paper argues that externalist philosophy of meaning can model and improve human–AI understanding and communication, outlining steps toward Interpretable AI grounded in metaphysical theories of meaning.

ABSTRACT

Can humans and artificial intelligences share concepts and communicate? 'Making AI Intelligible' shows that philosophical work on the metaphysics of meaning can help answer these questions. Herman Cappelen and Josh Dever use the externalist tradition in philosophy to create models of how AIs and humans can understand each other. In doing so, they illustrate ways in which that philosophical tradition can be improved. The questions addressed in the book are not only theoretically interesting, but the answers have pressing practical implications. Many important decisions about human life are now influenced by AI. In giving that power to AI, we presuppose that AIs can track features of the world that we care about (for example, creditworthiness, recidivism, cancer, and combatants). If AIs can share our concepts, that will go some way towards justifying this reliance on AI. This ground-breaking study offers insight into how to take some first steps towards achieving Interpretable AI.

研究の動機と目的

• AI が人間にとって重要な世界の特徴を共有・追跡できるよう動機づける（例：信用力、癌、再犯リスク）。
• 意味の外在論的理論が人間–AIの理解とコミュニケーションをモデル化できることを示す。
• 解釈可能な AI システム構築への実践的含意を示す。

提案手法

• 意味の外在論的哲学伝統を調査する。
• 共有概念に基づく跨種（人間–AI）理解のモデルを開発する。
• AI の解釈可能性を支援するよう哲学をどのように改善できるかを分析する。

実験結果

リサーチクエスチョン

• RQ1 人間と人工知能は概念を共有し、効果的にコミュニケーションをとることができるか？
• RQ2 意味の外在論的理論はAIの理解と解釈可能性のモデルにどのように情報を提供できるか？
• RQ3 哲学的基盤から解釈可能なAIを推進するための実践的ステップは何か？

主な発見

• 意味の外在論的理論は人間–AI理解のモデルに情報を提供できる。
• 哲学的基盤は、重要な人生の決定に対するAIへの依存を正当化する方法を提供する。
• AI の解釈可能性を哲学に基づかせることは、解釈可能なAIへの第一歩を導くことができる。