[論文レビュー] Modelling Human Values for AI Reasoning

Nardine Osman, Mark d’Inverno|ArXiv.org|Feb 9, 2024

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

本稿では、人間の価値を形式的かつ計算的に根拠づけたモデル—価値分類モデル（VTM）—を提案する。このVTMは、社会心理学と形式論理学の知見を統合することで、価値の意味論、重要性、関係性を捉え、医療分野を含む価値に整合した意思決定が不可欠な分野における実用的応用を可能にする。

ABSTRACT

One of today's most significant societal challenges is building AI systems whose behaviour, or the behaviour it enables within communities of interacting agents (human and artificial), aligns with human values. To address this challenge, we detail a formal model of human values for their explicit computational representation. To our knowledge, this has not been attempted as yet, which is surprising given the growing volume of research integrating values within AI. Taking as our starting point the wealth of research investigating the nature of human values from social psychology over the last few decades, we set out to provide such a formal model. We show how this model can provide the foundational apparatus for AI-based reasoning over values, and demonstrate its applicability in real-world use cases. We illustrate how our model captures the key ideas from social psychology research and propose a roadmap for future integrated, and interdisciplinary, research into human values in AI. The ability to automatically reason over values not only helps address the value alignment problem but also facilitates the design of AI systems that can support individuals and communities in making more informed, value-aligned decisions. More and more, individuals and organisations are motivated to understand their values more explicitly and explore whether their behaviours and attitudes properly reflect them. Our work on modelling human values will enable AI systems to be designed and deployed to meet this growing need.

研究の動機と目的

• AIにおける価値整合性の重要な課題に応えるため、人間の価値を形式的かつ計算可能な表現として構築すること。
• 価値に関する社会心理学の研究と実際のAIシステム設計の間の溝を埋めること。
• 実世界の文脈において、人間の行動と人工知能の行動の価値整合性をAIシステムが推論できるようにすること。
• AIフィードバックメカニズムを通じて、個人や組織がより情報に基づき、価値に配慮した意思決定をとるのを支援すること。
• 実証的社会心理学に裏付けられた、今後のAIにおける価値に関する学際的研究の基盤となる枠組みを提供すること。

提案手法

• 価値の意味論、重要性、関係性を含む、構造化された価値分類を用いて、人間の価値の形式的モデルを構築する。
• 形式的言語を用いて、価値とその相互依存関係を正確に表現し、計算の実行可能性と論理的一致性を確保する。
• 数十年にわたる社会心理学における価値に関する研究に裏付けられ、既存の理論と概念的一致性を保証する。
• 実装に依存しない設計であるが、価値に基づく推論に適した具体的なデータ構造とアルゴリズムをサポートする。
• 医療専門家との共同作業を通じて、臨床意思決定における価値整合性の評価を含む、実世界の応用を通じてモデルを検証する。
• 形式的モデルを社会心理学の文献に再マッピングすることで、価値構造とダイナミクスに関する実証的発見と整合していることを示す。

実験結果

リサーチクエスチョン

• RQ1 AIシステムにおける計算的推論を支援する形で、人間の価値をどのように形式的に表現できるか。
• RQ2 社会心理学の研究を反映する形で、価値の意味論、重要性、相互関係をモデル化するために必要な核心的構成要素は何か。
• RQ3 形式的価値モデルを、医療のような実世界の分野における価値整合性の向上にどのように実用的に応用できるか。
• RQ4 AIシステムは、このようなモデルをどのように活用して、人間の行動や集団行動の価値整合性についてフィードバックを提供できるか。
• RQ5 モデルは、個人や組織が自らの価値体系を体系的に特定し、吟味し、進化させることをどのように支援できるか。

主な発見

• 提案された価値分類モデル（VTM）は、価値の意味論、重要性、関係性を明示的に表現する、最初の形式的かつ計算可能な人間の価値モデルである。
• モデルは、社会心理学の主要な知見を的確に捉えており、特に価値の階層的・関係的性質が、既存の研究への詳細なマッピングを通じて実証されている。
• VTMは実用的なAI応用を可能にし、たとえばホスピタル・デル・マルでの医療意思決定やプロトコルの価値整合性評価を通じて、意思決定支援の質を向上させた。
• モデルは、時間的経過と文脈の変化に応じた価値整合性の推論を可能にし、進化する価値体系との関係で行動を動的に評価できる。
• 形式的モデルは、人間の価値と整合しているだけでなく、ユーザー自身の価値意識を高めるのを支援するAIシステムの基盤を提供する。
• モデルは実世界の共同作業を通じて検証されており、医療や緊急対応のような複雑で価値が複雑に絡み合う環境において、実現可能性と実用的影響を示している。