[论文解读] Finding plans subject to stipulations on what information they divulge

Yulin Zhang, Dylan A. Shell+1 more|arXiv (Cornell University)|Sep 25, 2018

Optimization and Search Problems参考文献 10被引用 4

一句话总结

本文提出了一种新型框架，用于在隐私约束下进行机器人规划，其中机器人必须在执行任务的同时，战略性地控制向观察者披露的信息。该框架结合使用Procrustean图与最坏情况观察者模型，联合合成计划与披露策略，确保敏感信息（例如设施类型）得以隐藏，同时仍能实现任务目标。

ABSTRACT

Motivated by applications where privacy is important, we consider planning problems for robots acting in the presence of an observer. We first formulate and then solve planning problems subject to stipulations on the information divulged during plan execution --- the appropriate solution concept being both a plan and an information disclosure policy. We pose this class of problem under a worst-case model within the framework of procrustean graphs, formulating the disclosure policy as a particular type of map on edge labels. We devise algorithms that, given a planning problem supplemented with an information stipulation, can find a plan, associated disclosure policy, or both if some exists. Both the plan and associated disclosure policy may depend subtlety on additional information available to the observer, such as whether the observer knows the robot's plan (e.g., leaked via a side-channel). Our implementation finds a plan and a suitable disclosure policy, jointly, when any such pair exists, albeit for small problem instances.

研究动机与目标

• 解决机器人应用中的隐私问题，即通过行动、观测或状态披露可能导致敏感信息泄露。
• 形式化在特定要求下的规划问题，即必须披露某些信息（例如任务相关数据），同时必须隐藏其他信息（例如设施类型）。
• 开发一种联合合成方法，计算出满足规定隐私约束的有效计划与披露策略。
• 使用最坏情况推断模型建模观察者的知识，确保即使敌意观察者也无法推断出敏感信息。
• 在小规模问题上实现并评估该方法，尽管计算复杂度较高，但仍证明了其可行性。

提出的方法

• 使用Procrustean图形式化规划问题，其中边标记为动作与观测，披露策略建模为边标签上的部分标签映射。
• 引入最坏情况观察者模型，基于观测标签的历史推断机器人的状态，通过限制观察者可推断的内容来确保隐私。
• 使用混合的与-或搜索算法探索计划与策略的组合，基于保留隐私约束的安全观测划分进行剪枝。
• 采用递归树扩展策略：动作节点通过考虑所有可能的动作选择与观测划分进行扩展，而观测节点则基于可能的标签映射进行扩展。
• 将披露策略计算为一种映射，将动作与观测分组，使得敏感差异（例如设施类型）对观察者不可见。
• 使用Python实现该算法，并通过自定义搜索与nuXmv模型检测进行对比验证。

实验结果

研究问题

• RQ1 机器人能否在执行任务的同时，确保观察者即使观察到其动作与观测，也无法推断出如设施类型等敏感信息？
• RQ2 如何联合合成计划与披露策略，使机器人在满足隐私要求的前提下实现其目标？
• RQ3 此类隐私约束规划问题的计算复杂度是多少？其随问题规模的扩展特性如何？
• RQ4 观察者的背景知识（例如对机器人计划的了解）如何影响披露策略的可行性与设计？
• RQ5 该方法能否在现实但小规模的场景（如核设施检查）中有效实现与验证？

主要发现

• 所提方法在核设施检查场景中成功计算出满足隐私要求的计划与披露策略对，其中机器人需确定辐射水平而不泄露设施类型。
• 在核设施检查任务中，与-或搜索算法在11秒内找到有效解，而基于CTL的方法耗时24秒，尽管其优先选择更短的计划。
• 在较小的五边形世界中，Seek x,λ问题返回一个解，机器人至少循环一次以隐藏其位置，披露策略将动作与观测映射以隐藏状态差异。
• 披露策略设计为满足 h(a₂) = h(a₃) 与 h(o₁) = h(o₃)，确保观察者无法区分不同路径或状态。
• 计算复杂度较高，深度为 d 时的上界为 O(2^{d|U||V|})，这是由于动作选择与观测划分的指数级数量所致。
• 实现结果证实了该方法在小规模实例上的可行性，但可扩展性仍是主要挑战，提示未来工作需引入启发式或成本感知的扩展。