[논문 리뷰] On the Importance of Trust in Next-Generation Networked CPS Systems: An AI Perspective

Anousheh Gholami, Nariman Torkzaban외 1명|arXiv (Cornell University)|2021. 04. 15.

Access Control and Trust인용 수 4

한 줄 요약

이 논문은 탈중앙화되고 대규모인 환경에서 보안성과 내성 강화를 위해 차세대 네트워크 기반 사이버-물리 시스템(CPS)을 위한 신뢰 기반 프레임워크를 제안한다. 신뢰 계산 및 집계를 위한 수학적 모델을 도입하여 에이전트 상호작용에서의 증거를 활용하며, 연합 학습과 5G 네트워크 슬라이싱에 통합하여 악성 또는 고장 난 에이전트에 대한 저항성을 시뮬레이션을 통해 입증한다.

ABSTRACT

With the increasing scale, complexity, and heterogeneity of the next generation networked systems, seamless control, management, and security of such systems becomes increasingly challenging. Many diverse applications have driven interest in networked systems, including large-scale distributed learning, multi-agent optimization, 5G service provisioning, and network slicing, etc. In this paper, we propose trust as a measure to evaluate the status of network agents and improve the decision-making process. We interpret trust as a relation among entities that participate in various protocols. Trust relations are based on evidence created by the interactions of entities within a protocol and may be a composite of multiple metrics such as availability, reliability, resilience, etc. depending on application context. We first elaborate on the importance of trust as a metric and then present a mathematical framework for trust computation and aggregation within a network. Then we show in practice, how trust can be integrated into network decision-making processes by presenting two examples. In the first example, we show how utilizing the trust evidence can improve the performance and the security of Federated Learning. Second, we show how a 5G network resource provisioning framework can be improved when augmented with a trust-aware decision-making scheme. We verify the validity of our trust-based approach through simulations. Finally, we explain the challenges associated with aggregating the trust evidence and briefly explain our ideas to tackle them.

연구 동기 및 목표

• 중앙 집중식 제어가 비현실적인 대규모, 이질적, 탈중앙화된 사이버-물리 시스템(CPS) 환경에서 신뢰 문제의 증가하는 도전에 대응하기 위해.
• 기존의 신뢰 모델이 종종 정성적이고 정량적이지 않거나 동적인 네트워크 조건에 적응하지 못하는 한계를 극복하기 위해.
• 중앙집중형 및 탈중앙형 배포 모델을 모두 지원하는 통합된 신뢰 계산 및 집계 프레임워크를 개발하기 위해.
• 에이전트 참여, 자원 할당, 접근 제어와 같은 핵심 네트워크 의사결정 과정에 신뢰를 통합하여 시스템의 내성과 보안성을 향상시키기 위해.
• 신뢰 신선도, 통신 오버헤드, 탈중앙화된 의견 공유 환경에서의 개인정보 보호와 같은 실용적 과제를 해결하기 위해.

제안 방법

• 과거 상호작용에서의 증거를 포함하여 신뢰를 네트워크 엔티티 간의 관계로 정의하며, 신뢰성, 가용성, 내성성 등의 지표를 통합한다.
• 지역적 및 글로벌 신뢰 추정을 사용하는 수학적 프레임워크를 제안하며, 탈중앙화된 방식으로 노드 간에 집계한다.
• 신뢰 추정의 시의성과 유지 비용을 감안해 통신 오버헤드를 줄이기 위해 반응형 신뢰 업데이트 메커니즘을 구현한다.
• 신뢰 추정이 현재 네트워크 상태를 반영하고 신선도를 유지할 수 있도록 연령 정보(AoI) 지표를 적용한다.
• 연합 학습 원리를 활용해 분산된 에이전트 간에 개인정보 보호와 통신 효율성을 동시에 확보하는 신뢰 추론을 가능하게 한다.
• 신뢰 점수를 연합 학습 및 NFV 기반 5G 네트워크에서의 에이전트 참여 및 자원 할당 의사결정에 통합하는 신뢰 인식 의사결정 계층을 설계한다.

실험 결과

연구 질문

• RQ1 대규모, 탈중앙화된 네트워크 기반 CPS에서 신뢰를 공식적으로 모델링하고 정량화할 수 있는 방법은 무엇이며, 이를 통해 안전하고 내성적인 의사결정을 지원할 수 있는가?
• RQ2 통신 효율성, 정확도, 개인정보 보호 측면에서 중앙집중형과 탈중앙형 신뢰 집계 간의 상호 상충 관계는 어떠한가?
• RQ3 신뢰 증거가 현재 네트워크 상태를 반영하고 오래되지 않은 신뢰성 있는 정보를 유지하기 위해 어떻게 관리할 수 있는가?
• RQ4 신뢰를 기존 시스템, 예를 들어 연합 학습과 5G 네트워크 슬라이싱에 통합하여 보안성과 내성성을 향상시킬 수 있는 방법은 무엇인가?
• RQ5 탈중앙화된 환경에서 에이전트가 서로의 신뢰 의견을 공유할 때 개인정보를 어떻게 보호할 수 있는가?

주요 결과

• 신뢰를 연합 학습에 통합함으로써 데이터 오염 및 모델 조작 공격에 대한 내성성이 크게 향상되어 신뢰할 수 없는 클라이언트를 걸러내는 데 기여한다.
• 신뢰 인식 5G 네트워크 기능 가상화(NFV)는 신뢰할 수 있는 네트워크 기능을 우선순위에 두어 자원 제공 과정의 보안성과 신뢰성을 향상시킨다.
• 시뮬레이션 결과, 제안된 신뢰 모델이 악성 또는 고장 난 에이전트를 탐지하고 격리하는 데서 특히 효과적으로 시스템 성능과 보안성을 향상시킨다.
• 신뢰 추정의 시의성을 확보하기 위해 연령 정보(AoI)를 신선도 지표로 사용함으로써 실시간 의사결정에 적합하고 시의적인 신뢰 추정이 유지된다.
• 중앙 기관에 의존하지 않고도 확장 가능하고 개인정보 보호가 가능한 탈중앙화된, 연합 학습을 모델로 삼은 방식의 신뢰 집계가 가능하다.
• 지역 증거와 글로벌 의견 집계를 조합함으로써 지역적 접근보다 더 정확하고 강력한 신뢰 추정이 가능하다는 것이 프레임워크를 통해 입증되었다.