[论文解读] Establishing Meta-Decision-Making for AI: An Ontology of Relevance, Representation and Reasoning
本文提出一个三部分本体论——相关性、表征与推理——以实现人工智能中的元决策制定，尤其适用于第三代自主系统。通过将决策制定划分为这些模块化组件，该框架增强了系统的自主性、安全性和适应性，从而在复杂、开放的环境中实现更好的基准测试、风险缓解和前瞻性推理。
We propose an ontology of building decision-making systems, with the aim of establishing Meta-Decision-Making for Artificial Intelligence (AI), improving autonomy, and creating a framework to build metrics and benchmarks upon. To this end, we propose the three parts of Relevance, Representation, and Reasoning, and discuss their value in ensuring safety and mitigating risk in the context of third wave cognitive systems. Our nomenclature reflects the literature on decision-making, and our ontology allows researchers that adopt it to frame their work in relation to one or more of these parts.
研究动机与目标
- 为解决人工智能中自主决策系统设计缺乏系统性框架的问题，特别是针对上下文自适应的第三代自主系统。
- 通过引入统一的、模块化的本体论，减少因孤立错误处理和组件间依赖关系不良导致的系统故障。
- 通过形式化元决策制定——即对决策过程本身的推理——建立结构化、可重用的框架，以提升人工智能的安全性与风险缓解能力。
- 通过明确定义决策制定的各个组件，支持指标与基准的开发，以实现可审计性与评估性。
- 通过解耦并标准化识别相关因素、编码价值与应用推理范式的过程，实现更灵活、适应性更强且更可信赖的人工智系统。
提出的方法
- 提出一个三层本体论——相关性、表征与推理——作为设计人工智能决策系统的基础框架。
- 使用MARS（一种基于价值的道德推理系统）中的实际运行示例，说明各组件的实际应用。
- 相关性涉及识别情境中显著的特征及其与价值的关联，例如检测行人作为碰撞规避的相关因素。
- 表征涉及将价值与规则结构化为形式化、机器可处理的形态，包括规范性或描述性价值排序。
- 推理通过应用不同模型（例如加法模型、加权模型或范式模型）来基于所表示的价值与情境评估行动。
- 通过支持多种推理范式及对相关性与表征组件的动态重加权，强调模块化与冗余性，以提升鲁棒性。
实验结果
研究问题
- RQ1如何系统性地构建元决策制定，以提升人工智能系统的自主性与安全性？
- RQ2在设计自主决策系统时，必须形式化的关键组件有哪些，以确保适应性与风险缓解？
- RQ3如何通过分离相关性、表征与推理，增强系统模块化，降低耦合性，并改善基准测试？
- RQ4该本体在开放世界环境中如何支持前瞻性思维及对新颖或未见情境的处理？
- RQ5该框架如何用于审计和测量决策制定特定阶段的性能，例如在自动驾驶汽车或道德推理系统中的表现？
主要发现
- 三部分本体论——相关性、表征与推理——提供了一个结构化、模块化的框架，增强了系统自主性，并支持人工智能中的元决策制定。
- 通过解耦显著情境因素的识别（相关性）、价值的形式化编码（表征）以及推理模型的应用（推理），该框架降低了系统复杂性，并提升了可审计性。
- 该方法通过根据情境动态调整相关性与推理范式，实现了对安全关键型、时间敏感型决策的更好处理。
- 通过支持多种推理模型与灵活的价值加权，该框架缓解了规则爆炸、决策瘫痪与局部极小值等风险。
- 在MARS中使用多种推理模型（如加法模型、加权模型或特定范式模型）表明，在不确定性下道德决策的灵活性与覆盖范围得到提升。
- 该本体通过支持对单个组件的聚焦审计（如相关性检测或价值表征准确性的评估），促进了指标与基准的开发。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。