[논문 리뷰] Finding plans subject to stipulations on what information they divulge

Yulin Zhang, Dylan A. Shell외 1명|arXiv (Cornell University)|2018. 09. 25.

Optimization and Search Problems참고 문헌 10인용 수 4

한 줄 요약

이 논문은 사생활 보호 제약 조건 하에서 로봇 계획을 위한 새로운 프레임워크를 제안한다. 여기서 로봇은 작업을 수행하면서 관찰자에게 노출할 정보를 전략적으로 통제해야 한다. 프로크루스티안 그래프와 악성 관찰자 모델을 사용하여 계획과 공개 정책을 공동으로 합성함으로써, 민감한 정보(예: 시설 유형)가 노출되지 않도록 하면서도 작업 목표를 달성하도록 보장한다.

ABSTRACT

Motivated by applications where privacy is important, we consider planning problems for robots acting in the presence of an observer. We first formulate and then solve planning problems subject to stipulations on the information divulged during plan execution --- the appropriate solution concept being both a plan and an information disclosure policy. We pose this class of problem under a worst-case model within the framework of procrustean graphs, formulating the disclosure policy as a particular type of map on edge labels. We devise algorithms that, given a planning problem supplemented with an information stipulation, can find a plan, associated disclosure policy, or both if some exists. Both the plan and associated disclosure policy may depend subtlety on additional information available to the observer, such as whether the observer knows the robot's plan (e.g., leaked via a side-channel). Our implementation finds a plan and a suitable disclosure policy, jointly, when any such pair exists, albeit for small problem instances.

연구 동기 및 목표

• 행동, 관찰 또는 상태 공개를 통해 유출될 수 있는 민감한 정보가 존재하는 로봇 응용 분야에서의 사생활 문제를 다루기 위해.
• 일부 정보(예: 작업 관련 데이터)는 공개되어야 하고, 다른 정보(예: 시설 유형)는 은폐되어야 하는 조건을 수식화하기 위해.
• 유효한 계획과 사전에 정한 사생활 보호 조건을 충족하는 공개 정책을 동시에 계산하는 공동 합성 방법을 개발하기 위해.
• 관찰자의 지식을 최악의 경우 추론 모델을 사용하여 모델링하여, 심지어 악성 관찰자라도 민감한 정보를 유추할 수 없도록 보장하기 위해.
• 소규모 문제에 대해 접근법을 구현하고 평가하여, 높은 계산 복잡도에도 불구하고 구현 가능성을 입증하기 위해.

제안 방법

• 행동와 관찰이 라벨이 부여된 간선을 갖는 프로크루스티안 그래프를 사용하여 계획 문제를 수식화하며, 공개 정책은 간선 라벨에 대한 부분 라벨 매핑으로 모델링된다.
• 관찰자의 이전 관찰 라벨 기록을 바탕으로 로봇의 상태를 추론하는 최악의 경우 관찰자 모델을 도입하여, 관찰자가 유추할 수 있는 정보의 범위를 제한함으로써 사생활 보장을 보장한다.
• 안전한 관찰 분할을 유지하는 조건 하에, 계획과 정책 조합을 탐색하기 위해 하이브리드 and–or 탐색 알고리즘을 사용하며, 이를 통해 정책을 개선한다.
• 재귀적 트리 확장 전략을 활용: 행동 정점은 가능한 모든 행동 선택과 관찰 분할을 고려하여 확장되며, 관찰 정점은 가능한 라벨 매핑에 따라 확장된다.
• 민감한 차이(예: 시설 유형)가 관찰자에게 드러나지 않도록 행동과 관찰을 그룹화하는 방식으로 공개 정책을 계산한다.
• 파이썬으로 알고리즘을 구현하고, 비교를 위해 커스텀 검색과 nuXmv 기반 모델 체킹을 사용하여 검증한다.

실험 결과

연구 질문

• RQ1 관찰자가 행동과 관찰을 관찰하더라도, 시설 유형과 같은 민감한 정보를 유추할 수 없도록 로봇이 작업을 수행하도록 이끌 수 있는가?
• RQ2 로봇이 목표를 달성하면서도 사생활 규정을 충족시키기 위해 계획과 공개 정책을 어떻게 공동으로 합성할 수 있는가?
• RQ3 이러한 사생활 보호 제약 조건이 있는 계획 문제를 해결하는 데 필요한 계산 복잡도는 얼마이며, 문제 크기에 따라 어떻게 변화하는가?
• RQ4 관찰자의 배경 지식(예: 로봇의 계획을 알고 있음)은 공개 정책의 타당성과 설계에 어떤 영향을 미치는가?
• RQ5 핵시설 점검과 같은 현실적인, 비록 소규모이긴 하지만 시나리오에서 이 접근법을 효과적으로 구현하고 검증할 수 있는가?

주요 결과

• 제안된 방법은 핵 시설 점검 시나리오에서 민감한 정보(예: 시설 유형)가 유출되지 않도록 하면서도, 방사능 수준을 측정하는 데 성공적으로 계획과 공개 정책 쌍을 계산하였다.
• 핵 시설 점검 작업에서 and–or 탐색 알고리즘이 11초 만에 유효한 해답을 찾았고, CTL 기반 접근법은 24초가 걸렸지만 더 짧은 계획을 우선시하였다.
• 더 작은 오각형 세계에서 Seek x,λ 문제는 로봇이 적어도 한 번 이상 루프를 돈 상태에서 해답을 반환하였으며, 공개 정책은 행동과 관찰을 통해 상태의 차이를 은폐하도록 설계되었다.
• 공개 정책는 h(a₂) = h(a₃) 및 h(o₁) = h(o₃)가 되도록 설계되어 관찰자가 서로 다른 경로나 상태를 구분할 수 없도록 하였다.
• 계산 복잡도는 행동 선택과 관찰 분할의 지수적 증가로 인해 깊이 d에 대해 O(2^{d|U||V|})로 경계된다.
• 구현 결과는 소규모 인스턴스에 대해서는 접근법의 구현 가능성을 확인하였지만, 확장성은 여전히 주요 과제로 남아 있어 향후 히우리스틱 또는 비용 인식 기반 확장의 필요성을 시사한다.