[论文解读] Anticipatory Thinking: A Metacognitive Capability

Adam Amos‐Binks, Dustin Dannenhauer|arXiv (Cornell University)|Jun 28, 2019

Complex Systems and Decision Making参考文献 16被引用 9

一句话总结

本文提出将前瞻性思维作为人工智能智能体的一种元认知能力，使其能够主动识别计划中的脆弱性，预见外部失败源（条件事件），并生成成本效益最优的前瞻性行动以减轻风险。该方法在MIDCA架构中通过三步流程实现，并采用数值成本-收益比率进行评估，在测试案例中成功完全消除了所有识别出的风险，获得0.83的评估得分。

ABSTRACT

Anticipatory thinking is a complex cognitive process for assessing and managing risk in many contexts. Humans use anticipatory thinking to identify potential future issues and proactively take actions to manage their risks. In this paper we define a cognitive systems approach to anticipatory thinking as a metacognitive goal reasoning mechanism. The contributions of this paper include (1) defining anticipatory thinking in the MIDCA cognitive architecture, (2) operationalizing anticipatory thinking as a three step process for managing risk in plans, and (3) a numeric risk assessment calculating an expected cost-benefit ratio for modifying a plan with anticipatory actions.

研究动机与目标

• 开发一种元认知机制，使人工智能智能体能够主动评估并管理其计划中的未来风险。
• 将前瞻性思维定义为MIDCA认知架构中元认知层内的一项独立能力。
• 将前瞻性思维操作化为三步流程：识别计划脆弱性、预见失败源、生成缓解行动。
• 创建基于风险缓解与成本-收益权衡的定量评估指标，用于评估前瞻性思维的成功程度。
• 通过在目标推理中嵌入想象力与前瞻性推理，弥合当前AI规划系统与人类类预见能力之间的差距。

提出的方法

• 前瞻性思维作为MIDCA架构中的后规划元认知过程实现，于初始计划生成后运行。
• 该方法包含三个阶段：(1) 识别目标脆弱性，如仅在计划初期可用但在整个计划中均需的原子；(2) 通过分析相关计划状态，生成前瞻性预期，以检测外部失败源（条件事件）；(3) 制定前瞻性行动以缓解这些源。
• 定义了基于数值的风险评估，包含两个比率：(1) 成功缓解的已识别条件事件所占比例；(2) 前瞻性行动的预期成本-收益比率，计算公式为1减去行动成本与潜在缓解影响之比。
• 评估公式为：$AT^{assess}( au) = \frac{|CE(ANT)|}{|CE|} \times \left(1 - \frac{\sum |AA(ANT_i)|}{\sum_{j} impact(ce_j)}\right)$，其中CE为条件事件集合，AA为前瞻性行动的成本。
• 使用NBeacons领域示例对框架进行评估，其中风力事件威胁计划执行，前瞻性行动（如携带抓钩）用于缓解风险。
• 该方法与预测或预期系统相区别，其重点在于主动缓解未命名或未预期的风险，而非预测单一结果。

实验结果

研究问题

• RQ1 如何在人工智能智能体的目标推理过程中，正式定义并实现前瞻性思维作为元认知能力？
• RQ2 识别、预见并缓解计划脆弱性之前执行的关键三步流程的组成部分是什么？
• RQ3 如何通过可测量的成本-收益比率与缓解比率，对前瞻性思维的成功进行定量评估？
• RQ4 前瞻性思维与现有AI机制（如预测、预期或在线风险感知规划）有何不同？
• RQ5 前瞻性思维能否集成到MIDCA等认知架构中，以增强自主决策与风险管理能力？

主要发现

• 所提出的前瞻性思维框架在NBeacons示例中成功识别出全部四个与风相关的条件事件，并通过前瞻性行动完全缓解了这些风险。
• 评估指标得分为0.83，反映出缓解事件与识别事件的比率为完美的1.0，且成本-收益比率强劲为0.83。
• 成本-收益比率计算为1 - (2/12) = 0.83，其中消耗2个行动单位，避免了因风力事件导致的12个潜在挖掘动作损失。
• 框架表明，前瞻性思维与预测或预期不同，其重点在于缓解未命名的风险，而非预测结果。
• 该方法使智能体在未经历失败的情况下即可采取行动，通过利用想象力与元认知推理，模拟出类人预见能力。
• 将前瞻性思维集成到MIDCA的元认知层，实现了后规划风险分析与自适应计划加固，提升了自主性与鲁棒性。