[論文レビュー] Establishing Meta-Decision-Making for AI: An Ontology of Relevance, Representation and Reasoning

Cosmin Badea, Leilani H. Gilpin|arXiv (Cornell University)|Oct 2, 2022

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

本稿では、第3世代の自律的システムを対象として、メタ意思決定を可能にする3段階のオントロジー（関連性、表現、推論）を提案する。意思決定をこれらのモジュラーな構成要素に分離することで、システムの自律性、安全性、適応性が向上し、複雑でオープンエンドな環境において、より良いベンチマーク評価、リスク低減、先制的推論が可能になる。

ABSTRACT

We propose an ontology of building decision-making systems, with the aim of establishing Meta-Decision-Making for Artificial Intelligence (AI), improving autonomy, and creating a framework to build metrics and benchmarks upon. To this end, we propose the three parts of Relevance, Representation, and Reasoning, and discuss their value in ensuring safety and mitigating risk in the context of third wave cognitive systems. Our nomenclature reflects the literature on decision-making, and our ontology allows researchers that adopt it to frame their work in relation to one or more of these parts.

研究の動機と目的

• AIにおける自律的意思決定システムの設計に向けた体系的なフレームワークの欠如、特に文脈に適応可能な第3世代の自律的システムに対して、その問題を解決すること。
• 孤立したエラー処理や部品間の不良な依存関係に起因するシステム障害を低減するため、統合的でモジュラーなオントロジーを導入すること。
• メタ意思決定（意思決定の方法についての推論）を形式化することで、構造的かつ再利用可能なフレームワークを用いて、AIの安全性とリスク低減を向上させること。
• 明確に区別された意思決定要因の構成要素を提供することで、メトリクスとベンチマークの開発を支援し、監査可能性と評価性を高めること。
• 関連要因の特定、価値の符号化、推論パラダイムの適用プロセスを分離・標準化することで、より柔軟で適応可能かつ信頼性の高いAIシステムを実現すること。

提案手法

• AI意思決定システムの設計のための基盤フレームワークとして、3段階のオントロジー（関連性、表現、推論）を提案する。
• MARS（価値に基づく道徳的推論システム）の実例を用いて、各構成要素の実際の適用を説明する。
• 関連性は、文脈的に重要な特徴とそれらが価値にどのように関連するかを特定することを含み、例えば歩行者を衝突回避のための関連要因として検出することを例に挙げる。
• 表現は、価値やルールを形式的で機械処理可能な形に構造化することを含み、規範的または記述的な価値順序付けを含む。
• 推論は、表現された価値と文脈に基づいて行動を評価するため、さまざまなモデル（例：加法的、重み付き、パラダイム別）を適用する。
• 関連性と表現の構成要素に対する動的再重み付けを可能にすることで、複数の推論パラダイムを許容し、モジュラリティと冗長性を強調することで、耐障害性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 どのようにすれば、AIシステムの自律性と安全性を向上させるために、メタ意思決定を体系的かつ構造的に設計できるか？
• RQ2 自律的意思決定システムの設計において、適応性とリスク低減を保証するために形式化すべき主要な構成要素は何か？
• RQ3 関連性、表現、推論の分離が、システムのモジュラリティを向上させ、結合度を低下させ、ベンチマーク評価を改善する仕組みは何か？
• RQ4 このオントロジーは、オープンワールド環境における新規または未確認のシナリオの処理と先制的思考を、どのように支援するか？
• RQ5 このフレームワークは、自動運転車や道徳的推論システムなど、意思決定の特定段階での監査と性能測定に、どのように活用できるか？

主な発見

• 関連性、表現、推論の3段階のオントロジーは、AIにおけるメタ意思決定を支援する構造的かつモジュラーなフレームワークを提供し、システムの自律性を向上させる。
• 文脈的に顕著な要因の特定（関連性）、価値の形式的符号化（表現）、推論モデルの適用（推論）を分離することで、システムの複雑さが低減され、監査性が向上する。
• 文脈に応じて関連性と推論パラダイムを動的に適応可能にすることで、安全が求められる緊急な意思決定の処理が改善される。
• 複数の推論モデルと柔軟な価値重み付けをサポートすることで、ルールの爆発、意思決定の麻痺、局所最適解への陥落といったリスクを低減できる。
• MARSにおける加法的、重み付き、パラダイム別といった複数の推論モデルの使用は、不確実性下での道徳的意思決定における柔軟性とカバー範囲の向上を実証している。
• 個々の構成要素（例：関連性検出の評価、価値表現の正確性）の監査を集中可能にすることで、メトリクスとベンチマークの開発を支援する。